2 мая 2023 Авто - перевод Cointelegraph
Пионер искусственного интеллекта (ИИ) по прозвищу «Крестный отец ИИ» подал в отставку со своей должности в крупной технологической фирме Google, чтобы он мог более открыто говорить о потенциальных опасностях этой технологии.
До ухода в отставку доктор Джеффри Хинтон более десяти лет работал в Google над алгоритмами машинного обучения. Сообщается, что он получил свое прозвище из-за того, что всю жизнь работал над нейронными сетями.
Однако в твите от 1 мая Хинтон пояснил, что оставил свою должность в Google, «чтобы я мог говорить об опасностях ИИ».
Сегодня в NYT Кейд Мец подразумевает, что я ушел из Google, чтобы критиковать Google. На самом деле, я ушел, чтобы говорить об опасностях ИИ, не задумываясь о том, как это влияет на Google. Google поступил очень ответственно.
— Джеффри Хинтон (@geoffreyhinton) 1 мая 2023 г.
В интервью New York Times его самым непосредственным беспокойством по поводу ИИ было его использование для наводнения Интернета фальшивыми фотографиями, видео и текстом, где он выразил обеспокоенность тем, что многие «больше не смогут знать, что является правдой».
Другие опасения Хинтона касались технологии искусственного интеллекта, занимающей рабочие места. Он считает, что в будущем ИИ может представлять угрозу для человечества из-за того, что он учится неожиданному поведению на основе огромных объемов анализируемых им данных.
Он также выразил обеспокоенность продолжающейся гонкой вооружений с использованием ИИ, направленной на дальнейшее развитие технологии для использования в смертоносных автономных системах вооружения (LAWS).
Хинтон также выразил частичное сожаление по поводу работы всей своей жизни:
«Я утешаю себя обычным оправданием: если бы я этого не сделал, это сделал бы кто-то другой».
В последние месяцы регулирующие органы, законодатели и руководители технологической отрасли также выражали обеспокоенность по поводу развития ИИ. В марте более 2600 технических руководителей и исследователей подписали открытое письмо, в котором призвали к временной остановке разработки ИИ, ссылаясь на «серьезные риски для общества и человечества».
Группа из 12 законодателей Европейского Союза подписала аналогичное письмо в апреле, а недавний законопроект ЕС классифицирует инструменты ИИ в зависимости от уровня их риска. Соединенное Королевство также выделяет 125 миллионов долларов на поддержку целевой группы по разработке «безопасного ИИ».
ИИ используется в фейковых новостных кампаниях и розыгрышах
Сообщается, что инструменты ИИ уже используются для дезинформации: недавние примеры того, как средства массовой информации обманом заставляли публиковать фейковые новости, а одно немецкое издание даже использовало ИИ для фабрикации интервью.
1 мая Binance заявила, что стала жертвой клеветнической кампании, инициированной ChatGPT, и поделилась доказательствами того, что чат-бот утверждал, что его генеральный директор Чанпэн «CZ» Чжао был членом молодежной организации Коммунистической партии Китая.
Всем знатокам криптографии и искусственного интеллекта вот ветка ChatGPT, если кто-то хочет покопаться. Как вы увидите, ChatGPT извлекает это из поддельного профиля LinkedIn и несуществующей статьи @Forbes. Мы не можем найти никаких доказательств этой истории или страницы LinkedIn, когда-либо существовавшей. pic.twitter.com/szLaix3nza
— Патрик Хиллманн ♂️ (@PRHillmann) 1 мая 2023 г.
Бот ссылался на статью Forbes и страницу LinkedIn, из которой, как он утверждал, он получил информацию, однако статьи, похоже, не существует, а профиль LinkedIn не принадлежит Чжао.
На прошлой неделе группа шутников также обманула несколько СМИ по всему миру, включая Daily Mail и The Independent.
The Daily Mail опубликовала, а затем удалила статью о предполагаемом канадском актере по имени «Святой фон Колуччи», который, как говорят, умер после пластической операции, чтобы сделать его больше похожим на южнокорейскую поп-звезду.
Эта новость пришла из пресс-релиза о смерти актера, который был отправлен организацией, маскирующейся под фирму по связям с общественностью, и использовал изображения, созданные искусственным интеллектом.
В апреле немецкое издание Die Aktuelle опубликовало интервью, в котором ChatGPT синтезировал разговор с бывшим гонщиком Формулы-1 Михаэлем Шумахером, который получил серьезную черепно-мозговую травму в результате несчастного случая на лыжах в 2013 году.
Сообщалось, что семья Шумахера подаст в суд из-за статьи.
/ (C)
Не является индивидуальной инвестиционной рекомендацией
При копировании ссылка обязательна Нашли ошибку: выделить и нажать Ctrl+Enter
До ухода в отставку доктор Джеффри Хинтон более десяти лет работал в Google над алгоритмами машинного обучения. Сообщается, что он получил свое прозвище из-за того, что всю жизнь работал над нейронными сетями.
Однако в твите от 1 мая Хинтон пояснил, что оставил свою должность в Google, «чтобы я мог говорить об опасностях ИИ».
Сегодня в NYT Кейд Мец подразумевает, что я ушел из Google, чтобы критиковать Google. На самом деле, я ушел, чтобы говорить об опасностях ИИ, не задумываясь о том, как это влияет на Google. Google поступил очень ответственно.
— Джеффри Хинтон (@geoffreyhinton) 1 мая 2023 г.
В интервью New York Times его самым непосредственным беспокойством по поводу ИИ было его использование для наводнения Интернета фальшивыми фотографиями, видео и текстом, где он выразил обеспокоенность тем, что многие «больше не смогут знать, что является правдой».
Другие опасения Хинтона касались технологии искусственного интеллекта, занимающей рабочие места. Он считает, что в будущем ИИ может представлять угрозу для человечества из-за того, что он учится неожиданному поведению на основе огромных объемов анализируемых им данных.
Он также выразил обеспокоенность продолжающейся гонкой вооружений с использованием ИИ, направленной на дальнейшее развитие технологии для использования в смертоносных автономных системах вооружения (LAWS).
Хинтон также выразил частичное сожаление по поводу работы всей своей жизни:
«Я утешаю себя обычным оправданием: если бы я этого не сделал, это сделал бы кто-то другой».
В последние месяцы регулирующие органы, законодатели и руководители технологической отрасли также выражали обеспокоенность по поводу развития ИИ. В марте более 2600 технических руководителей и исследователей подписали открытое письмо, в котором призвали к временной остановке разработки ИИ, ссылаясь на «серьезные риски для общества и человечества».
Группа из 12 законодателей Европейского Союза подписала аналогичное письмо в апреле, а недавний законопроект ЕС классифицирует инструменты ИИ в зависимости от уровня их риска. Соединенное Королевство также выделяет 125 миллионов долларов на поддержку целевой группы по разработке «безопасного ИИ».
ИИ используется в фейковых новостных кампаниях и розыгрышах
Сообщается, что инструменты ИИ уже используются для дезинформации: недавние примеры того, как средства массовой информации обманом заставляли публиковать фейковые новости, а одно немецкое издание даже использовало ИИ для фабрикации интервью.
1 мая Binance заявила, что стала жертвой клеветнической кампании, инициированной ChatGPT, и поделилась доказательствами того, что чат-бот утверждал, что его генеральный директор Чанпэн «CZ» Чжао был членом молодежной организации Коммунистической партии Китая.
Всем знатокам криптографии и искусственного интеллекта вот ветка ChatGPT, если кто-то хочет покопаться. Как вы увидите, ChatGPT извлекает это из поддельного профиля LinkedIn и несуществующей статьи @Forbes. Мы не можем найти никаких доказательств этой истории или страницы LinkedIn, когда-либо существовавшей. pic.twitter.com/szLaix3nza
— Патрик Хиллманн ♂️ (@PRHillmann) 1 мая 2023 г.
Бот ссылался на статью Forbes и страницу LinkedIn, из которой, как он утверждал, он получил информацию, однако статьи, похоже, не существует, а профиль LinkedIn не принадлежит Чжао.
На прошлой неделе группа шутников также обманула несколько СМИ по всему миру, включая Daily Mail и The Independent.
The Daily Mail опубликовала, а затем удалила статью о предполагаемом канадском актере по имени «Святой фон Колуччи», который, как говорят, умер после пластической операции, чтобы сделать его больше похожим на южнокорейскую поп-звезду.
Эта новость пришла из пресс-релиза о смерти актера, который был отправлен организацией, маскирующейся под фирму по связям с общественностью, и использовал изображения, созданные искусственным интеллектом.
В апреле немецкое издание Die Aktuelle опубликовало интервью, в котором ChatGPT синтезировал разговор с бывшим гонщиком Формулы-1 Михаэлем Шумахером, который получил серьезную черепно-мозговую травму в результате несчастного случая на лыжах в 2013 году.
Сообщалось, что семья Шумахера подаст в суд из-за статьи.
/ (C)
Не является индивидуальной инвестиционной рекомендацией
При копировании ссылка обязательна Нашли ошибку: выделить и нажать Ctrl+Enter