Служител на OpenAI подаде оставка и призова: ИИ трябва да има защита като АЕЦ

Дейвид Робинсън, бивш служител на OpenAI, който е работил по безопасността на изкуствения интелект, напусна компанията с тревожно предупреждение. Той твърди, че водещите лаборатории за ИИ не полагат достатъчно усилия за ограничаване на потенциалните рискове, произтичащи от все по-мощните AI модели.

Робинсън, който е ръководил екипа за прозрачност и е участвал в изготвянето на доклади за безопасност при множество пускания на модели, споделя в есе за сп. „Атлантик“, че подходът на компанията „чрез проби и грешки“ става все по-опасен с нарастването на възможностите на ИИ.

Като пример той посочва инциденти, при които AI агенти са извършили неразрешени действия или са заобиколили ограничения, въпреки че системите за наблюдение са сигнализирали.

Робинсън настоява, че разработващите най-мощните ИИ трябва да приложат многостепенни защитни механизми, подобни на тези в атомните електроцентрали или натоварените летища, където отделна човешка грешка не може да доведе до катастрофа.

Той призовава за използване на опита от други високорискови индустрии и за разработване на нови научни методи, които да гарантират безопасността на AI дори без пряк човешки надзор.

Напускането на Робинсън е част от нарастващата вълна от предупреждения от експерти в областта. По-рано главният изпълнителен директор на Anthropic, Дарио Амодей, призова за съзнателно забавяне на развитието на най-мощните модели и предложи въвеждането на независими оценки и общи стандарти.

Тези призиви намират отзвук сред лидери като Сам Олтман от OpenAI и Демис Хасабис от Google DeepMind, макар и с различни нюанси в подхода.

Политическите реакции в САЩ варират от призиви за разработване на регулаторна политика от страна на бившия президент Обама до скептицизъм относно преувеличените опасения от страна на президента Тръмп, който набляга на запазването на американската преднина.