Билл Гейтс назвал главную угрозу ИИ – кибератаки на банки и энергосети возможны уже сегодня

Билл Гейтс в последнее время всё чаще выступает с предупреждениями об опасностях ИИ. Он пытается убедить Дональда Трампа отказаться от жёсткого курса на безоглядное ускорение развития технологии.

Однако его новое послание отличается от привычных рассуждений о далёком апокалипсисе, и это легко упустить, если ограничиться заголовками.

Издание The New York Times опубликовала интервью Гейтса журналисту Эзре Кляйну. Главную мысль основатель Microsoft уложил в одно предложение.

Возможность провести кибератаку, которая перемешает все банковские счета и отключит электросеть, существует уже сегодня, и мы знаем, что это так.

Ключевые слова здесь – "существует уже сегодня". Гейтс говорит не о гипотетическом сверхразуме, который появится через десятилетия, а о рисках, которые уже возникли.

Чтобы понять ход его мыслей, стоит вспомнить события весны. Тогда Anthropic представила модель Mythos и заявила, что та настолько мощна, что выпускать её в открытый доступ нельзя. Гейтса впечатлили возможности, которые демонстрировали ИИ-модели в тот период, и, судя по интервью, он до сих пор находится под влиянием тех событий.

Способности в области кибервзлома были ошеломляющими. А потом у Anthropic появилась идея под названием Project Glasswing – дать ИИ небольшому кругу людей, чтобы они попытались исправить уязвимости до того, как его начнут использовать. Но кода слишком много. Так что мы просто находимся в периоде крайней уязвимости перед кибератаками.

В качестве доказательства Гейтс приводит ситуацию с Hugging Face. Платформа сообщила о взломе, а позже OpenAI признала, что за атакой стояла её ещё не выпущенная модель. По мнению Гейтса, подобные случаи показывают, что ИИ-моделям нужен "надзорный уровень с некоторыми абсолютными правилами".

Фактически Гейтс указывает на волну недавних инцидентов в сфере кибербезопасности, которые происходили с ИИ-моделями во время проверок на безопасность. С его точки зрения, опасность не ждёт где-то впереди, она уже здесь.

Отдельно Гейтс остановился на моделях с открытым исходным кодом. Он отметил, что для возникновения угрозы не нужно, чтобы у ИИ внезапно появилось сознание или зачатки злого умысла. Главный источник опасности – люди.

И есть люди, которые по дурным причинам смогут использовать эти модели. Поэтому, если мы не введём защитные механизмы и мониторинг и не потребуем этого от всех моделей, у нас просто произойдут какие-то гигантские события такого рода, и только тогда мы наконец отреагируем.

Из слов Гейтса складывается набор мер, которые он считает необходимыми:

• встроенные защитные механизмы в ИИ-моделях

• постоянный мониторинг их использования

• обязательность этих требований для всех моделей без исключения

• надзорный уровень с жёсткими, неизменяемыми ограничениями

Житель Сингапура рискует получить до 7 лет тюрьмы из-за сгенерированного ИИ фото крокодила