Tuduhan Terhadap xAI
Ahli Parlimen itu mendakwa bahawa Grok, chatbot yang dibangunkan oleh xAI, telah menghasilkan imej deepfake yang menggambarkan mereka dalam bikini. Guaman tersebut berhujah bahawa imej itu dihasilkan tanpa persetujuan penggubal undang-undang dan bahawa xAI bertanggungjawab ke atas output modelnya. Fail mahkamah tidak menyatakan secara tepat bagaimana imej itu diminta, tetapi Ahli Parlimen itu menuntut ganti rugi dan injunksi untuk mengelakkan kejadian serupa pada masa hadapan. Identiti Ahli Parlimen itu telah didedahkan dalam dokumen mahkamah, walaupun penggubal undang-undang itu tidak dinamakan dalam laporan awam. Dengan menyaman xAI secara langsung dan bukannya pengguna individu, kes ini menekankan perdebatan yang semakin meningkat sama ada syarikat AI harus dipertanggungjawabkan ke atas kandungan yang dihasilkan oleh sistem mereka. Pasukan undang-undang Ahli Parlimen dijangka akan berhujah bahawa deepfake itu merupakan penyalahgunaan maklumat peribadi dan pelanggaran undang-undang perlindungan data.
Apa yang Dipertaruhkan untuk Akauntabiliti AI
Jika mahkamah mendapati xAI bertanggungjawab, ia akan menjadi salah satu keputusan pertama yang menetapkan bahawa syarikat boleh dipertanggungjawabkan ke atas kandungan yang dijana oleh AI walaupun pengguna mencetuskan penciptaan tersebut. Keputusan sedemikian boleh memaksa pemaju AI lain untuk melaksanakan penapisan yang lebih ketat dan boleh membentuk perundangan di UK dan bidang kuasa lain. Kes ini tiba ketika pengawal selia di seluruh dunia bergelut untuk mengikuti perkembangan pesat teknologi deepfake dan potensinya untuk disalahgunakan.
Implikasi Global
Memandangkan UK adalah pasaran dan hab undang-undang yang signifikan untuk syarikat teknologi, keputusan ini boleh memberi pengaruh di luar sempadannya. Fakta kes ini secara langsung menyentuh persoalan privasi dan perlindungan data yang menjadi teras kepada peraturan AI yang baru muncul di Kesatuan Eropah dan Amerika Syarikat. Keputusan menentang xAI mungkin menggalakkan negara lain untuk menerima pakai piawaian yang serupa untuk kandungan yang dijana AI. Kes ini juga boleh membantu mentakrifkan norma antarabangsa untuk akauntabiliti apabila sistem AI menghasilkan bahan yang berbahaya.
Masalah Lebih Luas Deepfake
Imej dan video deepfake telah menjadi kebimbangan yang berterusan, sering digunakan untuk mengganggu individu atau menyebarkan maklumat salah. Guaman ini adalah salah satu cabaran langsung pertama kepada syarikat AI kerana menghasilkan kandungan sedemikian, dan bukannya menyasarkan orang yang mencipta atau berkongsinya. Keputusan Ahli Parlimen untuk menyaman xAI secara langsung mungkin menandakan peralihan dalam cara mangsa mendapatkan remedi undang-undang. Penyebaran alat AI yang boleh mencipta imej realistik tetapi palsu telah mengatasi rangka kerja undang-undang dan kawal selia, meninggalkan mangsa dengan sedikit pilihan. Guaman ini boleh menyediakan peta jalan untuk kes masa depan dan mendorong penggubal undang-undang untuk bertindak.
Potensi Pembelaan dan Kesukaran
xAI belum lagi memberi respons secara terbuka terhadap guaman tersebut. Chatbot Grok syarikat itu dikenali kerana menawarkan sekatan kandungan yang lebih sedikit berbanding beberapa pesaing utamanya. Dalam kenyataan sebelum ini, xAI telah menekankan kepentingan kebebasan bersuara dalam sistem AI. Syarikat itu mungkin berhujah bahawa ia tidak bertanggungjawab ke atas apa yang diminta oleh pengguna untuk dicipta oleh chatbot, atau bahawa output tersebut dilindungi oleh prinsip ekspresi bebas. Mahkamah perlu memutuskan di mana garis pemisah antara akauntabiliti pengguna dan tanggungjawab platform. Mahkamah juga perlu mempertimbangkan sama ada reka bentuk Grok yang membolehkan pelbagai permintaan, merupakan pelaksanaan kebebasan bersuara yang munasabah atau kegagalan untuk mencegah kemudaratan. Hasilnya mungkin bergantung pada cara mahkamah mentafsir undang-undang perlindungan data sedia ada, seperti Akta Perlindungan Data UK, dalam konteks model AI yang boleh menghasilkan imej realistik daripada permintaan teks.
Bagi xAI, kekalahan boleh memaksa perubahan ketara dalam cara Grok beroperasi, termasuk penapisan kandungan yang lebih agresif dan keperluan pengesahan identiti pengguna. Kes ini juga menonjolkan keperluan mendesak untuk peraturan yang lebih jelas mengenai kandungan yang dijana AI, topik yang semakin mendapat perhatian daripada penggubal undang-undang di London dan di luar negara. Bagi xAI, guaman ini memberikan cabaran undang-undang dan reputasi, kerana syarikat itu meletakkan dirinya sebagai juara pembangunan AI terbuka.
Kes ini telah difailkan
