Meta чуть не открыла эру научных фальсификаций

28 ноября 2022 Промсвязьбанк | Facebook
На прошлой неделе Meta (запрещена в РФ) выложила в открытый доступ свою систему искусственного интеллекта (ИИ) Galactica. Она была создана для «организации научных знаний». Система предназначена для обобщения исследовательских работ, решения уравнений и т.д. Предполагалось, что в ответ на вопрос она оперативно сгенерирует краткую научную статью.

Подобные системы, научившись «понимать» порядок слов, сами могут распознавать слова и связывать их вместе. Но так как Galactica не понимает смысла синтезированного текста, ее ответы часто оказывались недостоверными. Также система не справилась с простейшими арифметическими действиями. В итоге в течение 48 часов после запуска работа демо-версии была прекращена.

По словам директора Института интеллектуальных систем М.Планка, во всех случаях результат ИИ было неправильным или предвзятым, однако выглядел убедительно и авторитетно. Эксперт считает, что такой алгоритм может открыть (https://forklog.com/news/meta-otklyuchila-ii-dlya-nauki-spustya-tri-dnya-posle-zapuska) эру глубоких научных фальсификаций.

Напомним, что в подобную ситуацию в 2016 году попала и компания Microsoft. Ее чат-бот Tay научился ругаться и стал расистом спустя сутки после запуска.
https://www.psbank.ru/Informer (C)

При копировании ссылка обязательна | Не является индивидуальной инвестиционной рекомендацией
Поддержите нас - ссылаясь на материалы и приводя новых читателей
Нашли ошибку: выделите и Ctrl+Enter