Опубликовано 06 июля 2023, 17:34
1 мин.

Разработчики ChatGPT решили обуздать «сверхинтеллектуальный» ИИ

Что для этого нужно
OpenAI создает специальную группу для решения проблемы потенциальных рисков, связанных со сверхинтеллектуальным ИИ. Под сверхинтеллектом понимается гипотетическая модель ИИ, превосходящая человеческий интеллект и в других областях.
Разработчики ChatGPT решили обуздать «сверхинтеллектуальный» ИИ

OpenAI считает, что такая модель может быть разработана уже к концу десятилетия. Признавая огромную силу и потенциальную опасность суперинтеллекта, команда стремится обеспечить его безопасное и полезное применение.

Под руководством главного научного сотрудника OpenAI Ильи Суцкевера и Яна Лейке, команда выделит часть своих вычислительных ресурсов на разработку автоматического «исследователя согласования», который поможет согласовать системы ИИ с «человеческими ценностями».

OpenAI признает амбициозный характер проекта, но сохраняет оптимизм в отношении поиска решений по снижению потенциальных рисков. Организация планирует поделиться своей дорожной картой в будущем.