Сегодня, 09:01 ИХ "Финам" Поздеева Екатерина
Мир все еще пытается найти ответ на вопрос: искусственный интеллект - друг или враг человечества? Пока одни руководители компаний говорят о новых возможностях, открывающихся благодаря технологиям, росте производительности труда и экономии на рабочих процессах, другие отмечают увеличение числа кибератак на их бизнес с использованием ИИ-ботов, которые приводят к большим финансовым потерям.
На днях в Сан-Франциско в рамках первого собрания Международной сети институтов безопасности ИИ встретилась группа венчурных инвесторов, бизнес-лидеров и государственных чиновников со всего мира, чтобы обсудить риски, которые искусственный интеллект представляет для общества, и найти баланс между ними и потенциальными преимуществами ИИ.
Finam.ru рассказывает, как изменилась кибербезопасность с появлением ИИ и как мировые лидеры хотят решать проблему.
ИИ-боты атакуют компании по всему миру
Мошенничество с использованием искусственного интеллекта набирает обороты, по всему миру бизнес находится под угрозой. При этом специалисты по кибербезопасности многих компаний еще не научились в полной мере отражать такие атаки, развитие технологий идет быстрее, чем люди успевают к ним адаптироваться.
Согласно исследованию Arkose Labs, проведенному среди специалистов по кибербезопасности, 88% компаний за последние два года столкнулись с ростом числа атак ИИ-ботов. При этом за последние 12 месяцев 40% кибератак были совершены с помощью ИИ-ботов. Они обычно приводят к значительному финансовому ущербу для компаний. Так, 76% специалистов по кибербезопасности оценили убытки от таких атак в $99 млн. Еще 56% экспертов считают, что ИИ повысил частоту и сложность киберугроз.
Около половины респондентов заявили, что у них недостаточно персонала с опытом как в области ИИ, так и в области кибербезопасности. Только 12% руководителей компаний считают, что их бизнес готов к ИИ-киберугрозам.
Инвестирование в безопасность поможет в борьбе с ИИ-рисками
Первое заседание международной сети институтов по безопасности ИИ стало знаковым событием для отрасли. Чуть больше года назад администрация президента США Джо Байдена поручила Национальному институту стандартов и технологий (NIST), который находится в ведении министерства торговли США, провести тщательную оценку возможностей и рисков ИИ. Затем NIST создал Институт безопасности ИИ в США, который заключил добровольные соглашения с OpenAI и Anthropic о тестировании их моделей. Несколько других стран, в том числе Великобритания, создали аналогичные институты безопасности ИИ.
Во время мероприятия генеральный директор Anthropic Дарио Амодей отметил, что для выявления конкретных угроз национальной безопасности, с которыми не очень хорошо знакомы такие компании, как его, необходимы государственные экспертные знания. По его словам, цель извлечь выгоду из ИИ не противоречит цели сделать его более безопасным.
Дарио Амодей считает, что инвестирование в повышение безопасности систем ИИ способствует также и их дальнейшему развитию. При этом глава Anthropic подчеркнул, что риски, связанные с ИИ, реальны, особенно по мере того, как генеративные системы становятся более мощными и получают большую автономию.
Одним из основных рисков собравшиеся эксперты признали проблему, связанную с необходимостью тестирования и оценки систем ИИ, которые даже их создатели не полностью понимают, в области, где состояние техники быстро меняется.
Переизбрание Дональда Трампа на пост президента США подлило масла в огонь и заставило экспертов обеспокоиться дальнейшим развитием американского института безопасности ИИ, который играет большую роль в международной сети таких учреждений. Министр торговли Джина Раймондо, самый высокопоставленный чиновник США, присутствовавший на мероприятии, подчеркнула, что проблемы, связанные с безопасностью ИИ, выходят за рамки политики. По ее словам, никто в мире, ни одна политическая партия, не желает, чтобы ИИ стал опасной технологией.
Потенциальные преимущества ИИ
Однако у ИИ по-прежнему множество энтузиастов по всему миру, которые считают, что преимущества технологии перевешивают риски. Так, согласно исследованию Arkose Labs, некоторые компании уже опережают конкурентов, полностью интегрируя искусственный интеллект в свои стратегии киберзащиты. К ним относятся 26% опрошенных представителей компаний. При этом 50% ИИ-энтузиастов уже получают выгоду от внедрения решений на основе ИИ для защиты от атак ИИ-ботов.
Кроме того, энтузиасты ИИ отмечают огромные перспективы технологии в обучении, работе с большими объемами данных и оптимизации затратных рабочих процессов.
Одним из таких наглядных примеров, которые приводит Axios, стала компания Earth AI, основанная в 2017 году, которая использует ИИ для нахождения месторождений определенных минералов. Недавно она заявила о находке крупного месторождения палладия, платины и никеля на юго-востоке Австралии. Палладий и другие родственные металлы жизненно важны для перехода к более чистым энергетическим технологиям, поэтому спрос на них растет, а количество найденных новых месторождений сокращается. По словам генерального директора и основателя Earth AI Романа Теслюка, найденное месторождение может стать крупнейшим подобным открытием в Австралии на сегодняшний день. Он заявил, что на прогнозирование и нахождение месторождения компания потратили менее $300 тыс, что значительно ниже, чем обычная стоимость такой работы. Это позволяет компании пробовать больше и находить месторождения не с первой попытки, ошибки не так сильно ударят по ее бюджету.
http://www.finam.ru/ (C)
Не является индивидуальной инвестиционной рекомендацией | При копировании ссылка обязательна | Нашли ошибку - выделить и нажать Ctrl+Enter | Отправить жалобу
На днях в Сан-Франциско в рамках первого собрания Международной сети институтов безопасности ИИ встретилась группа венчурных инвесторов, бизнес-лидеров и государственных чиновников со всего мира, чтобы обсудить риски, которые искусственный интеллект представляет для общества, и найти баланс между ними и потенциальными преимуществами ИИ.
Finam.ru рассказывает, как изменилась кибербезопасность с появлением ИИ и как мировые лидеры хотят решать проблему.
ИИ-боты атакуют компании по всему миру
Мошенничество с использованием искусственного интеллекта набирает обороты, по всему миру бизнес находится под угрозой. При этом специалисты по кибербезопасности многих компаний еще не научились в полной мере отражать такие атаки, развитие технологий идет быстрее, чем люди успевают к ним адаптироваться.
Согласно исследованию Arkose Labs, проведенному среди специалистов по кибербезопасности, 88% компаний за последние два года столкнулись с ростом числа атак ИИ-ботов. При этом за последние 12 месяцев 40% кибератак были совершены с помощью ИИ-ботов. Они обычно приводят к значительному финансовому ущербу для компаний. Так, 76% специалистов по кибербезопасности оценили убытки от таких атак в $99 млн. Еще 56% экспертов считают, что ИИ повысил частоту и сложность киберугроз.
Около половины респондентов заявили, что у них недостаточно персонала с опытом как в области ИИ, так и в области кибербезопасности. Только 12% руководителей компаний считают, что их бизнес готов к ИИ-киберугрозам.
Инвестирование в безопасность поможет в борьбе с ИИ-рисками
Первое заседание международной сети институтов по безопасности ИИ стало знаковым событием для отрасли. Чуть больше года назад администрация президента США Джо Байдена поручила Национальному институту стандартов и технологий (NIST), который находится в ведении министерства торговли США, провести тщательную оценку возможностей и рисков ИИ. Затем NIST создал Институт безопасности ИИ в США, который заключил добровольные соглашения с OpenAI и Anthropic о тестировании их моделей. Несколько других стран, в том числе Великобритания, создали аналогичные институты безопасности ИИ.
Во время мероприятия генеральный директор Anthropic Дарио Амодей отметил, что для выявления конкретных угроз национальной безопасности, с которыми не очень хорошо знакомы такие компании, как его, необходимы государственные экспертные знания. По его словам, цель извлечь выгоду из ИИ не противоречит цели сделать его более безопасным.
Дарио Амодей считает, что инвестирование в повышение безопасности систем ИИ способствует также и их дальнейшему развитию. При этом глава Anthropic подчеркнул, что риски, связанные с ИИ, реальны, особенно по мере того, как генеративные системы становятся более мощными и получают большую автономию.
Одним из основных рисков собравшиеся эксперты признали проблему, связанную с необходимостью тестирования и оценки систем ИИ, которые даже их создатели не полностью понимают, в области, где состояние техники быстро меняется.
Переизбрание Дональда Трампа на пост президента США подлило масла в огонь и заставило экспертов обеспокоиться дальнейшим развитием американского института безопасности ИИ, который играет большую роль в международной сети таких учреждений. Министр торговли Джина Раймондо, самый высокопоставленный чиновник США, присутствовавший на мероприятии, подчеркнула, что проблемы, связанные с безопасностью ИИ, выходят за рамки политики. По ее словам, никто в мире, ни одна политическая партия, не желает, чтобы ИИ стал опасной технологией.
Потенциальные преимущества ИИ
Однако у ИИ по-прежнему множество энтузиастов по всему миру, которые считают, что преимущества технологии перевешивают риски. Так, согласно исследованию Arkose Labs, некоторые компании уже опережают конкурентов, полностью интегрируя искусственный интеллект в свои стратегии киберзащиты. К ним относятся 26% опрошенных представителей компаний. При этом 50% ИИ-энтузиастов уже получают выгоду от внедрения решений на основе ИИ для защиты от атак ИИ-ботов.
Кроме того, энтузиасты ИИ отмечают огромные перспективы технологии в обучении, работе с большими объемами данных и оптимизации затратных рабочих процессов.
Одним из таких наглядных примеров, которые приводит Axios, стала компания Earth AI, основанная в 2017 году, которая использует ИИ для нахождения месторождений определенных минералов. Недавно она заявила о находке крупного месторождения палладия, платины и никеля на юго-востоке Австралии. Палладий и другие родственные металлы жизненно важны для перехода к более чистым энергетическим технологиям, поэтому спрос на них растет, а количество найденных новых месторождений сокращается. По словам генерального директора и основателя Earth AI Романа Теслюка, найденное месторождение может стать крупнейшим подобным открытием в Австралии на сегодняшний день. Он заявил, что на прогнозирование и нахождение месторождения компания потратили менее $300 тыс, что значительно ниже, чем обычная стоимость такой работы. Это позволяет компании пробовать больше и находить месторождения не с первой попытки, ошибки не так сильно ударят по ее бюджету.
http://www.finam.ru/ (C)
Не является индивидуальной инвестиционной рекомендацией | При копировании ссылка обязательна | Нашли ошибку - выделить и нажать Ctrl+Enter | Отправить жалобу