Сооснователь OpenAI Грег Брокман недавно поделился размышлениями о переходе компании от некоммерческой к коммерческой структуре, осветив противоречие между этичной разработкой искусственного интеллекта и необходимостью удовлетворять финансовые требования, связанные с инновациями. Высказывания Брокмана, сделанные в ходе публичного обсуждения, затрагивают вопрос, который преследует организацию с момента ее реструктуризации: может ли лаборатория ИИ, руководствующаяся миссией, оставаться верной своим первоначальным идеалам, когда ей приходится отчитываться перед инвесторами?
От некоммерческих корней к коммерческой модели
OpenAI была основана в 2015 году как некоммерческая организация с обещанием создать общий искусственный интеллект, который принесет пользу человечеству. Первоначальная структура была задумана, чтобы оградить компанию от мотивов получения прибыли. Однако к 2019 году руководство решило создать коммерческое подразделение, аргументируя это тем, что капитал, необходимый для передовых исследований ИИ, больше нельзя привлечь только за счет пожертвований. Это изменение позволило OpenAI привлечь миллиарды долларов инвестиций, в первую очередь от Microsoft, но также вызвало критику со стороны тех, кто увидел в этом повороте предательство первоначальной миссии.
Что сказал Брокман
Брокман не стал напрямую защищать или извиняться за этот переход. Вместо этого он описал внутреннее противоречие между сохранением этики и финансовой устойчивостью. Он указал на давление, связанное с необходимостью выпускать продукты, приносящие доход, при одновременном стремлении направлять развитие в сторону безопасных и широко полезных результатов. Комментарии сооснователя прозвучали на фоне усиления внимания к OpenAI по поводу того, как она решает такие вопросы, как предвзятость в своих моделях, конфиденциальность данных и концентрация власти в руках нескольких технологических гигантов.
Более широкая дискуссия об управлении ИИ
OpenAI далеко не единственная, кто сталкивается с этим конфликтом. Многие лаборатории ИИ и стартапы теперь работают как коммерческие организации, заявляя о приверженности ответственному ИИ. Критики утверждают, что такая структура делает почти невозможным приоритет безопасности над доходом акционеров. Сторонники возражают, что без стимула к получению прибыли область развивалась бы слишком медленно, чтобы реализовать потенциальные преимущества ИИ. Размышления Брокмана не разрешают эту дискуссию, но признают сложность одновременного следования обоим путям.
Что дальше
OpenAI продолжает работать через свое коммерческое подразделение, сохраняя при этом некоммерческий совет директоров, который контролирует соблюдение устава организации. Организация не объявляла о каких-либо дальнейших структурных изменениях. Как она будет балансировать между финансовым ростом и своими первоначальными обещаниями безопасности, остается открытым вопросом — вопросом, на который, как сам Брокман предполагает, нет простого ответа.
