Авторы ChatGPT работают над секретным ИИ-проектом «Клубника»

Компания OpenAI, которая выпустила знаменитый ChatGPT, работает над новым секретным проектом под кодовым названием Strawberry («Клубника»).

Об этом сообщает Reuters со ссылкой на источники и внутренние документы.

Цель разработки Strawberry – создать нейросеть, которая сможет не только генерировать ответы на запросы, но и будет иметь автономный доступ к интернету для выполнения собственных исследований. В теории, это позволит ИИ от OpenAI «рассуждать» на более высоком уровне.

По словам опрошенных Reuters экспертов, рассуждение является ключом к достижению ИИ человеческого уровня интеллекта. Хотя большие языковые модели уже могут обобщать и составлять тексты гораздо быстрее человека, они часто не справляются с проблемами, которые человек решает интуитивно, например, распознавать логические ошибки и отсутствие «здравого смысла».

Прежде этот проект назывался Q. Как писал Reuters в ноябре 2023 года, успехи в работе над ним стали одной из причин увольнения главы OpenAI Сэма Альтмана. Сотрудники называли его «прорывом» в области мощного ИИ, но выражали обеспокоенность тем, что у компании нет надлежащих мер безопасности для контролируемого развития и коммерциализации подобных моделей искусственного интеллекта.

Сэм Альтман заявлял, что «наиболее важные области прогресса в сфере ИИ будут связаны со способностью рассуждать». В то же время среди ученых уже давно ведутся дискуссии об опасности, которую представляют высокоинтеллектуальные машины: например, если они решат, что уничтожение человечества отвечает их интересам.