Yoshua Bengio bagian dari investor yang bertaruh pada Armilla AI untuk menghilangkan bias dalam pembelajaran mesin

Brain

Armilla AI telah diluncurkan dengan dana awal sebesar $1,5 juta dan bertujuan untuk menemukan dan memperbaiki AI yang bias.

Investor di Armilla termasuk Spearhead Fund, Two Small Fish Ventures, dan C2 Ventures. Investor lainnya adalah Yoshua Bengio bersama dengan mitra Apstat Nicolas Chapados, dan Jean-François Gagné, bersama dengan beberapa investor malaikat yang tidak diungkapkan lainnya. Putaran ditutup pada awal musim panas.

Dana segar membantu peluncuran Armilla AI, dan telah digunakan untuk mempekerjakan insinyur putaran pertama startup.

“Model AI membuat keputusan yang lebih penting setiap hari, yang berarti mereka memerlukan protokol pengawasan baru yang dapat memastikan mereka akurat, adil, dan mengekang potensi penyalahgunaan.”

Armilla memberi pelanggan alat validasi otomatis untuk menguji pembelajaran mesin untuk ketahanan, akurasi, keadilan, penyimpangan data, bias, dan banyak lagi. Perusahaan menggambarkan platformnya sebagai jaminan kualitas all-in-one pertama untuk pembelajaran mesin.

“Model AI membuat keputusan yang lebih penting setiap hari, yang berarti mereka memerlukan protokol pengawasan baru yang dapat memastikan mereka akurat, adil, dan mengekang potensi penyalahgunaan,” kata Yoshua Bengio, penerima ACM AM Turing Award, pendiri institut AI Québec Mila, dan seorang investor Armilla.

“Kebutuhan validasi independen yang meningkat ini membutuhkan perhatian dan investasi yang sama dengan yang digunakan untuk membangun model itu sendiri. Inilah cara membangun AI secara bertanggung jawab,” tambah Bengio.

Startup yang baru dibentuk ini bekerja dengan beberapa mitra yang dirahasiakan dan “menyelesaikan masalah kehidupan nyata bagi mereka,” menurut CPO Armilla, Karthik Ramakrishnan.

Platform menjalankan serangkaian tes yang ketat di seluruh skenario, ”kata Ramakrishnan. Misalnya, lembaga keuangan yang tidak ingin mendiskriminasi imigran biasanya akan menghapus status imigrasi dalam kumpulan data.

Namun menurut Ramakrishnan itu tidak cukup. Telah ditemukan bahwa ada korelasi yang tinggi antara status sebagai imigran dan unit multi-penyewa di sebuah bangunan, kata Ramakrishnan. “Mengapa?” dia bertanya secara retoris. “Karena sebagian besar imigran cenderung tinggal di akomodasi bersama dalam beberapa tahun pertama. Jadi, jika Anda tidak menghapus data multi-penyewaan juga, model Anda menjadi bias secara implisit terhadap imigran sekarang.”

Ini adalah jenis pemeriksaan yang perlu dilakukan sebelum perusahaan mempublikasikan model AI mereka, Ramakrishnan mempertahankan. “Ini adalah tantangan yang kita lihat dalam kehidupan nyata. Ini adalah hal-hal yang tidak ingin kami lihat tercermin dan menciptakan masalah bias sistemik itu.”

CPO mencatat bahwa perusahaan perusahaan tidak akan hanya mengeluarkan sesuatu “mau tak mau,” dan bahwa mereka memiliki tim risiko dan kepatuhan yang ingin memastikan risiko reputasi dan hukum dipahami.

“Kami menemukan bahwa tidak ada sistem yang melakukan ini secara sistematis,” kata Ramakrishnan. “Dalam pengalaman kami, kami menemukan ini rusak. Pemerintah juga menyadari fakta ini.”

Misalnya, Kantor Federal Komisaris Privasi Kanada telah melihat kebijakan seputar AI, dan menyatakan keprihatinannya atas penggunaannya: “Kami memberikan perhatian khusus pada sistem AI mengingat adopsi cepat mereka untuk memproses dan menganalisis sejumlah besar informasi pribadi. . Penggunaannya untuk membuat prediksi dan keputusan yang memengaruhi individu dapat menimbulkan risiko privasi serta bias dan diskriminasi yang melanggar hukum.”

Uni Eropa bahkan lebih maju dalam undang-undangnya, dan telah memperkenalkan kerangka hukum untuk AI serta tindakan akuntabilitas algoritmik yang dapat memberikan denda hingga enam persen dari pendapatan perusahaan jika ditemukan bahwa sebuah perusahaan tidak ketat dengan kebijakannya. penggunaan AI.

Kanada juga merupakan salah satu anggota pendiri The Global Partnership on Artificial Intelligence (GPAI). GPAI bertujuan untuk berbagi penelitian multidisiplin dan mengidentifikasi isu-isu utama di antara para praktisi AI, dengan tujuan, antara lain, mempromosikan kepercayaan dan adopsi AI yang dapat dipercaya.

“Semua ini mengatakan bahwa sebagian besar regulator di pemerintahan sadar akan fakta bahwa AI sudah tertanam dalam masyarakat kita,” kata Ramakrishnan. “Dan itu salah satu teknologi yang tidak jelas. Ini bukan objek fisik yang duduk di depan Anda. Ada keputusan yang dibuat untuk Anda, tentang Anda, di latar belakang. Ini akan mulus. Itu mengkhawatirkan jika kita tidak tahu bagaimana platform atau sistem ini berperilaku, dan jika mereka tidak dirancang untuk keselamatan.”

CEO Dan Adamson dan CTO Rahm Hafiz membentuk Armilla bersama Ramakrishnan. Ketiganya sebelumnya bekerja di perusahaan AI. Adamson adalah pendiri dan CEO dari OutsideIQ, sebuah perusahaan yang mengembangkan teknologi pencarian dan analisis komputasi kognitif berpemilik yang menggunakan pemrosesan bahasa alami dan pembelajaran mesin untuk berpikir dan bertindak seperti seorang peneliti. Exiger yang berbasis di New York, sebuah perusahaan yang membantu bisnis memantau kepatuhan seperti peraturan pencucian uang, mengakuisisi OutsideIQ pada 2017.

Hafiz bekerja sebagai direktur Exiger dan kepala teknologi kognitif, sementara Ramakrishnan adalah VP, kepala solusi industri dan penasihat di Element AI.

Armilla yang berbasis di Toronto saat ini memiliki sembilan karyawan, dan akan memperoleh pendapatan melalui penyediaan SaaS. Diluncurkan pada tahun 2020, perusahaan berada dalam mode siluman hingga 21 Oktober.

Ramakrishnan mengatakan bahwa perusahaan menghadapi tantangan startup yang normal dalam menskalakan dengan tepat, dan menghasilkan pendapatan. Dia mencatat dengan undang-undang baru yang akan datang tentang penggunaan AI, Armilla tidak tahu bagaimana hal itu dapat mengubah lanskap.

“Klien bergulat dengan ini,” katanya. “Jadi kita harus bergerak sangat cepat jadi kita QA pertama [quality assurance] untuk platform ML. Dan ketika Anda yang pertama, itu adalah perairan yang belum dipetakan.”

Fitur sumber gambar Unsplash

.

Author: wpadmin

Leave a Reply

Your email address will not be published. Required fields are marked *