Генеральный прокурор Делавэра пригрозила OpenAI судом в случае отклонения от гуманитарной миссии

Реструктуризация стартапа OpenAI, на необходимости которой долго настаивали инвесторы, состоялась в прошлом месяце, превратив его в «корпорацию общественного блага». Генеральный прокурор штата Делавэр пригрозила компании судебным преследованием в случае отклонения от гуманитарной миссии ради извлечения прибыли.

Почему ИИ никак не сесть на безматричную диету

Пять причин полюбить HONOR Magic7 Pro

Фитнес-браслет HUAWEI Band 10: настоящий металл

Пять причин полюбить HONOR Pad V9

HUAWEI FreeArc: вероятно, самые удобные TWS-наушники

Обзор умных часов HUAWEI WATCH 5: часы юбилейные

Пять причин полюбить HONOR X8c

Hollow Knight: Silksong — песнь страданий и радостей. Рецензия

Как поясняет Financial Times, в переговорах по реструктуризации с руководством OpenAI участвовали генеральные прокуроры сразу двух штатов — Калифорнии и Делавэра, в силу особенностей правовой системы США в области регистрации юридических лиц. Генеральный прокурор Делавэра Кэйти Дженнингс (Kathy Jennings) призналась ресурсу, что дала своё согласие на реструктуризацию OpenAI только при условии неукоснительного следования компанией гуманитарной миссии, заключающейся в создании искусственного интеллекта, используемого во благо всего человечества. Стремление компании отдать приоритет получению прибыли может повлечь неприятные последствия. Во всяком случае, генеральный прокурор Делавэра дала понять, что не станет колебаться и будет преследовать OpenAI в суде, если та отклонится от обозначенной миссии.

Напомним, в результате реструктуризации ключевые стратегические решения сможет принимать некоммерческая OpenAI Foundation, которая сосредоточит в своих руках 26 % акций коммерческой OpenAI Group. Тем самым стартап намерен обеспечить главенство гуманитарной миссии над сопутствующими целями типа извлечения прибыли, которые чаще всего интересуют инвесторов.

Условия сделки были закреплены документально вечером в понедельник, по итогам личных переговоров между генеральным директором OpenAI Сэмом Альтманом (Sam Altman) и генеральными прокурорами штатов Калифорния и Делавэр. При этом над финансовыми условиями сделки работали финансовые директора: Сара Фрайар (Sarah Friar, OpenAI) и Эми Худ (Amy Hood, Microsoft). Оформлению сделки предшествовали более года переговоров.

В ходе переговоров с генеральными прокурорами двух штатов последние настояли на чётком определении в уставе OpenAI понятий, касающихся гуманитарной миссии стартапа и безопасности внедрения искусственного интеллекта. OpenAI также должна в случае появления на рынке ориентированного на сохранение безопасности ИИ конкурента объединить с ним усилия, если это будет способствовать созданию «сильного» искусственного интеллекта (AGI) в течение двух ближайших лет. Это условие было прописано в уставе OpenAI по требованию офиса генерального прокурора Делавэра и её коллеги из Калифорнии.

OpenAI также согласилась назначить комитет по безопасности в совете директоров, который будет иметь право заблокировать выпуск на рынок новых больших языковых моделей, если те могут представлять опасность для человечества. Как поясняют эксперты, наличие подобных условий порождает определённые риски для инвесторов OpenAI. Руководство Microsoft, которая остаётся крупнейшим инвестором OpenAI, до сих пор выражает недовольство некоторыми определениями типа того же «сильного» искусственного интеллекта, поскольку идентифицировать момент его создания технически и юридически довольно сложно.

OpenAI пришлось задобрить Microsoft обещаниями потратить до $250 млрд на облачную инфраструктуру первой из компаний, но реализация такого плана никак не привязана к графику, а потому не так уж сильно обременит стартап. В коммерческой OpenAI Group корпорации Microsoft достанутся 27 %, это даже больше, чем будет принадлежать некоммерческой OpenAI Foundation. При этом Microsoft получила право самостоятельно разрабатывать AGI и привлекать для этого конкурентов OpenAI, тогда как условия предыдущего соглашения между компаниями это запрещали. В ходе переговоров OpenAI настаивала на возможности изолировать значительную часть своих исследований в сфере AGI от Microsoft. Последняя продлила право пользования разработками OpenAI до 2032 года, а вот доступ к исследованиям стартапа Microsoft утратит двумя годами ранее, либо в тот момент, когда будет создан AGI.