«У Ильи Суцкевера из OpenAI есть план по контролю сверхинтеллектуального искусственного интеллекта»

«План Ильи Суцкевера из OpenAI по взаимодействию с суперинтеллектуальным искусственным интеллектом»

Научная статья, опубликованная OpenAI, рассказывает о результатах экспериментов, нацеленных на проверку способа позволить недостаточно развитой модели ИИ направлять поведение гораздо более умной модели, не делая ее менее умной. ¶ Кредит: Евгений Мымрин / Getty Images

OpenAI была основана на обещании создать искусственный интеллект, который принесет пользу всему человечеству, даже когда этот ИИ станет значительно умнее своих создателей. С момента выпуска ChatGPT в прошлом году и в течение последних событий кризиса управления в компании , ее коммерческие амбиции стали более заметными. Теперь компания говорит, что новая исследовательская группа, занимающаяся взаимодействием суперумных ИИ будущего, начинает приносить плоды.

“AGI приближается очень быстро”, – говорит Леопольд Ашенбреннер, исследователь в OpenAI, занимающийся исследованиями в команде Суперуставки, созданной в июле. “Мы увидим сверхчеловеческие модели, у них будут огромные возможности, и они могут быть очень, очень опасными, и у нас пока нет методов их контроля”. OpenAI заявила, что направит пятую часть своей вычислительной мощности на проект Суперуставки.

Источник: Wired Полная статья