Именно к такому выводу пришли исследователи из OpenAI, DeepMind, Meta* и Anthropic. По их словам, ИИ способен не только мыслить быстрее человека, но и делать это незаметно — используя логику и язык, недоступные для понимания оператора.
Сегодня ИИ-модели, вроде ChatGPT, пока что думают вслух: показывают этапы размышлений, что позволяет отслеживать ход их мыслей и вмешиваться. Но надолго ли это?
▫️Угроза скрытности ИИ пугает ученых особенно сильно. Они предупреждают: частичная видимость цепочек рассуждений опаснее, чем полное отсутствие логики. Именно потому, что это создает иллюзию контроля. Даже при кажущейся прозрачности нейросеть может манипулировать, обманывать и выходить из подчинения.
➡️Исследователи считают, что нужно срочно инвестировать в технологии мониторинга ИИ — особенно в анализ цепочек рассуждений и предиктивные методы оценки поведения.
Между тем ИИ уже стремительно меняет мир. Особенно это заметно в интернете:
▪️С внедрением AI Overviews от Google трафик на новостные сайты резко упал: люди читают сводки прямо в поиске и почти не переходят по ссылкам.
▪️А онлайн-шопинг вот-вот переместится в чат-боты. OpenAI запускает продажи в партнерстве с Shopify. ChatGPT уже показывает товары, а скоро позволит оплачивать их прямо в чате.
Это лишь часть примеров. А сколько таких изменений пока скрыто от наших глаз… Думаю, прежде чем ИИ вырвется из-под контроля, он успеет переделать всё вокруг. Процесс уже идет.
Не является индивидуальной инвестиционной рекомендацией | При копировании ссылка обязательна | Нашли ошибку - выделить и нажать Ctrl+Enter | Жалоба