Dua nama terbesar di bidang teknologi menyerukan pendekatan yang lebih langsung terhadap regulasi kecerdasan buatan. Kepala hukum Block, perusahaan pembayaran yang didirikan oleh Jack Dorsey, dan Spotify, raksasa streaming musik, mendesak perusahaan untuk membangun kerangka tata kelola AI mereka sendiri daripada menunggu pemerintah bertindak.
Mengapa tata kelola proaktif penting saat ini
Berbicara di sebuah acara industri baru-baru ini, para eksekutif tersebut berpendapat bahwa laju perkembangan AI yang cepat membuat regulator tidak mampu mengikutinya. Penasihat umum Block menekankan bahwa perusahaan yang menerapkan AI dalam skala besar memiliki tanggung jawab untuk menetapkan aturan internal sebelum aturan eksternal datang. Pengacara utama Spotify menggemakan sentimen itu, mencatat bahwa kemampuan beradaptasi adalah kunci—aturan perlu berkembang seiring dengan perkembangan teknologi.
Kedua pemimpin hukum tersebut menegaskan bahwa alat buatan sendiri untuk memantau dan mengaudit sistem AI sangat penting. Mereka menunjukkan risiko jika hanya mengandalkan produk kepatuhan yang sudah jadi, yang mungkin tidak sesuai dengan kasus penggunaan spesifik perusahaan. Sebaliknya, mereka menganjurkan solusi internal yang dapat diperbarui dengan cepat saat tantangan baru muncul.
Tetap di depan kurva regulasi
Kedua eksekutif menyoroti pentingnya mengantisipasi regulasi daripada bereaksi terhadapnya. Kepala hukum Block memperingatkan bahwa perusahaan yang menunggu undang-undang ditulis akan mendapati diri mereka berjuang untuk mematuhinya. Penasihat umum Spotify menambahkan bahwa investasi awal dalam tata kelola dapat menjadi keunggulan kompetitif, terutama karena para pembuat undang-undang di UE dan AS sedang menyusun aturan AI baru.
Dorongan untuk alat buatan sendiri bukan hanya tentang kepatuhan—ini tentang kepercayaan. Para pemimpin hukum mencatat bahwa pelanggan dan investor semakin mengharapkan transparansi tentang bagaimana keputusan AI dibuat. Tanpa struktur tata kelola internal, perusahaan berisiko mengalami kerusakan reputasi ketika sistem AI bermasalah.
Seperti apa tata kelola buatan sendiri itu
Menurut para eksekutif, tata kelola AI yang efektif dimulai dengan kebijakan internal yang jelas tentang penggunaan data, pelatihan model, dan pemantauan keluaran. Mereka merekomendasikan pembentukan tim lintas fungsi yang mencakup staf hukum, teknik, dan produk untuk meninjau proyek AI sebelum diluncurkan. Audit rutin dan pengujian bias harus dibangun ke dalam siklus pengembangan, bukan ditambahkan sebagai renungan.
Kedua perusahaan telah mulai menerapkan langkah-langkah tersebut. Block, yang menangani transaksi keuangan, telah berfokus pada keadilan dan keterjelasan dalam model AI-nya. Spotify, yang menggunakan AI untuk rekomendasi dan moderasi konten, telah mengembangkan alat internal untuk melacak bagaimana algoritme memengaruhi pengalaman pengguna dan pendapatan kreator.
Pertanyaan yang belum terjawab
Meskipun para kepala hukum setuju tentang perlunya tata kelola proaktif, mereka tidak menyebutkan apakah perusahaan mereka akan membuat alat buatan sendiri tersedia untuk orang lain. Kerangka kerja sumber terbuka dapat membantu perusahaan yang lebih kecil, tetapi sistem kepemilikan mungkin menawarkan keunggulan kompetitif. Untuk saat ini, industri sedang mengamati apakah upaya internal ini akan menjadi standar publik—atau tetap di balik pintu tertutup.
