بر اساس گزارش منابع آگاه، ظاهراً آنتروپیک و اوپن‌ای‌آی به دنبال کنترل انتشارات ارزیابان هستند. این دو شرکت پیشرو هوش مصنوعی می‌خواهند در مورد آنچه ارزیابان مستقل می‌توانند درباره مدل‌هایشان منتشر کنند، حرفی برای گفتن داشته باشند. این اقدام نگرانی‌هایی را برانگیخته است که ممکن است شفافیت و اعتماد در صنعت هوش مصنوعی را تضعیف کند و پرسش‌های دشواری را درباره اسرار تجاری مطرح می‌کند.
تلاش برای کنترل انتشارات ارزیابان
ارزیابان - که اغلب پژوهشگران یا سازمان‌های شخص ثالث هستند - سیستم‌های هوش مصنوعی را از نظر ایمنی، سوگیری و عملکرد آزمایش می‌کنند. یافته‌های آن‌ها معمولاً به‌صورت آشکار منتشر می‌شود و به عموم، تنظیم‌کنندگان و سایر شرکت‌ها امکان می‌دهد تا فناوری را ارزیابی کنند. اما ظاهراً آنتروپیک و اوپن‌ای‌آی اکنون در تلاشند تا کنترل بیشتری بر آنچه منتشر می‌شود داشته باشند. سازوکار دقیق آن مشخص نیست: می‌تواند شامل قراردادها، فرآیندهای بررسی یا محدودیت در انتشار جزئیات خاص باشد. هر دو شرکت بر نیاز به حفاظت از اسرار تجاری تأکید کرده‌اند و استدلال می‌کنند که افشای بی‌قید و شرط می‌تواند به رقبا مزیت بدهد یا روش‌های حساس را آشکار کند. با این حال، همین رازداری می‌تواند نقص‌ها را نیز پنهان کند.
چرا شفافیت برای اعتماد و نوآوری در هوش مصنوعی اهمیت دارد
شفافیت همواره سنگ بنای پژوهش در هوش مصنوعی بوده است. وقتی ارزیابان روش‌ها و نتایج خود را منتشر می‌کنند، دیگران می‌توانند آزمون‌ها را بازتولید کنند، نقاط ضعف را شناسایی کنند و بر موفقیت‌ها بنا کنند. این چرخه نوآوری را پیش می‌برد و اعتماد عمومی را می‌سازد. اگر شرکت‌ها بتوانند انتشارات ارزیابان را وتو یا شکل دهند، این چرخه از هم می‌پاشد. پژوهشگران مستقل ممکن است اگر از واکنش منفی بترسند، در علامت‌گذاری مشکلات تردید کنند. کاربران ممکن است تا زمانی که خیلی دیر شده است از خطرات مطلع نشوند. و تنظیم‌کنندگانی که در حال حاضر برای همگام شدن با هوش مصنوعی تلاش می‌کنند، مواد کمتری برای کار خواهند داشت. طرف‌های متأثر فقط شرکت‌ها و ارزیابان نیستند؛ بلکه شامل هر کسی می‌شود که به سیستم‌های هوش مصنوعی وابسته است - که به‌طور فزاینده‌ای همه هستند.
دوراهی اسرار تجاری
در اینجا تنش واقعی وجود دارد. ساخت مدل‌های هوش مصنوعی پرهزینه است و شرکت‌ها منافع مشروعی در حفاظت از روش‌های اختصاصی دارند. قانون اسرار تجاری به کسب‌وکارها اجازه می‌دهد تا زمانی که اقدامات معقولی برای حفظ محرمانگی انجام دهند، اطلاعات خاصی را محرمانه نگه دارند. اما اعمال این چارچوب بر انتشارات ارزیابان دشوار است. ارزیابان برای انجام کار خود به دسترسی کافی نیاز دارند و عموم برای اعتماد به نتایج به اطلاعات کافی نیاز دارند. ادعاهای بیش از حد گسترده درباره رازداری می‌تواند همان بررسی دقیقی را که هوش مصنوعی را ایمن‌تر می‌کند، خفه کند. آنتروپیک و اوپن‌ای‌آی پیشنهادهای خود را به‌طور عمومی تشریح نکرده‌اند، بنابراین مشخص نیست کجا خط می‌کشند. چه چیزی سرّ تجاری محسوب می‌شود و چه چیزی نگرانی ایمنی عمومی؟ این پرسش احتمالاً در قراردادها، دادگاه‌ها و بحث‌های سیاستی محل مناقشه خواهد بود.
آنچه برای صنعت هوش مصنوعی در خطر است
صنعت هوش مصنوعی از نزدیک نظاره‌گر است. اگر آنتروپیک و اوپن‌ای‌آی در کنترل انتشارات ارزیابان موفق شوند، سایر شرکت‌ها ممکن است از آن‌ها پیروی کنند. این می‌تواند رویه‌ای برای نحوه تعامل شرکت‌های هوش مصنوعی با آزمایش‌کنندگان مستقل ایجاد کند. استارتاپ‌ها و بازیگران کوچک‌تر ممکن است برای حفظ رقابت‌پذیری تحت فشار قرار گیرند تا سیاست‌های مشابهی اتخاذ کنند. در همین حال، ارزیابان دانشگاهی و غیرانتفاعی ممکن است کار خود را محدود ببینند. برخی ممکن است از امضای توافق‌نامه‌های محدودکننده خودداری کنند و در نتیجه استخر تخصص مستقل کاهش یابد. برخی دیگر ممکن است تبعیت کنند اما خودسانسوری کنند. در هر صورت، کیفیت و کمیت ارزیابی‌های عمومی می‌تواند آسیب ببیند. نتیجه نه تنها آنچه درباره سیستم‌های هوش مصنوعی می‌دانیم را شکل می‌دهد، بلکه مشخص می‌کند چه کسی حق تصمیم‌گیری درباره ایمن بودن را دارد.
هنوز راه‌حل روشنی وجود ندارد
نه آنتروپیک و نه اوپن‌ای‌آی هیچ سیاست رسمی یا جدول زمانی اعلام نکرده‌اند. ظاهراً گفتگوها ادامه دارد و هیچ توافقی علنی نشده است. در حال حاضر، وضعیت در حال تغییر است. ارزیابان، پژوهشگران و گروه‌های ناظر احتمالاً در صورت ظهور محدودیت‌های مشخص، واکنش نشان خواهند داد. تنظیم‌کنندگان در ایالات متحده و خارج از کشور که در حال تدوین قوانین هوش مصنوعی هستند، ممکن است علاقه‌مند شوند. تعارض اصلی - بین حفاظت از اسرار تجاری و حفظ شفافیت - به‌راحتی حل نخواهد شد. نحوه پیشروی آنتروپیک و اوپن‌ای‌آی یک آزمون برای صنعت خواهد بود. و برای هر کسی که از هوش مصنوعی استفاده می‌کند، خطرات بالا است: شفافیت کمتر می‌تواند به معنای ریسک بیشتر و نادیده گرفته شده باشد.
