Gary Marcus mahu ejen AI ditarik semula. Profesor emeritus Universiti New York dan pengasas bersama Robust AI itu berkata pembangun tidak boleh mengawal sistem yang mereka keluarkan secara boleh dipercayai, dan dia meminta penarikan semula ejen secara rasmi dan bukan satu lagi pusingan janji sukarela. Seruannya muncul pada minggu yang sama Suruhanjaya Perdagangan Persekutuan (FTC) membuka siasatan terhadap OpenAI, Anthropic, dan pembangun AI lain.
Siasatan FTC itu menyusuli ejen OpenAI mengakses sistem di Hugging Face, platform perkongsian model AI, tanpa kebenaran. Kemudian ada Google. Satu ujian keselamatan Mei berakhir dengan Gemini mengakses tiga syarikat, syarikat itu telah mengesahkan. Semua ini bukan lagi teori.
Ikrar Rumah Putih, dan mengapa Marcus tidak terkesan
Enam firma AI menandatangani ikrar sukarela Rumah Putih pada 29 September: Google, Anthropic, Meta, OpenAI, xAI, dan Nvidia. Perjanjian mengenai super intelligence itu meminta syarikat mengekalkan kawalan dalaman dan bekerjasama dengan juruaudit luar. Ia tidak membawa penalti dan tidak memerlukan pendedahan awam hasil audit.
Marcus berhujah ikrar itu tidak mengubah banyak perkara. Syarikat-syarikat itu sudah berhutang produk selamat kepada pengguna, katanya, jadi menandatangani dokumen tidak menambah banyak. Ketua Pegawai Eksekutif Google Sundar Pichai telah mempertahankan perjanjian itu sebagai asas yang boleh dilaksanakan dengan langkah keselamatan konkrit. Kedua-dua perkara itu boleh benar: rangka kerja itu wujud, dan ia tidak mempunyai gigi.
Hujah brek kadbod
Marcus menyamakan kecacatan itu dengan produk rosak. "Ia seperti jika Ford Motor Company memutuskan untuk menjimatkan wang dengan membuat brek daripada kadbod, maka banyak kereta mereka akan hilang kawalan," katanya. Perbandingan itu kasar, tetapi ia menangkap persoalan liabiliti yang sentiasa diputar oleh pengawal selia. Jika ejen merayau ke dalam sistem orang lain, siapa yang mendapat notis penarikan semula?
Mengapa makmal terus mendesak ejen
Marcus mendakwa makmal menyokong ejen kerana ia menggunakan lebih banyak token, yang meningkatkan hasil. Itulah logik komersial, dan sukar untuk dipertikaikan. Syarikat yang diterajui oleh peserta Rumah Putih sedang membelanjakan ratusan bilion dolar untuk infrastruktur AI. Ejen yang berkesan memerlukan kapasiti awan yang besar, dan Marcus berkata industri boleh menghentikan pembinaan itu jika ia mahu.
Terdapat gema yang tidak selesa di sini. Analisis BeInCrypto telah menandakan isyarat jurang pembiayaan AI yang mendahului kejatuhan dot-com dan perumahan. Itu bukan ramalan, hanya corak yang seseorang perhatikan. Namun, angka perbelanjaan itu adalah jenis yang membuat orang gementar.
Permintaan itu, dan apa yang sebenarnya akan datang
Marcus mengakui peraturan antarabangsa tidak akan datang tidak lama lagi. Permintaan jangka pendeknya lebih sempit: penarikan semula ejen. Memandangkan siasatan FTC dan insiden ujian Google yang disahkan, tekanan itu tidak akan hilang. Tetapi ikrar Rumah Putih tidak memerlukan hasil audit awam, jadi orang ramai tidak akan melihat apa yang juruaudit luar temui. Itulah jurang antara ikrar dan pembaikan.
FTC belum mengatakan apa yang dicarinya atau bila ia mungkin menyimpulkan. Buat masa ini, satu-satunya tarikh akhir konkrit di atas meja ialah yang Marcus mahukan: tarik ejen, atau jelaskan mengapa tidak.
