Маск и Возняк выступили против искусственного интеллекта GPT
На днях появилось открытое письмо с требованием немедленно, как минимум на полгода, остановить разработки в области искусственного интеллекта (ИИ). Это письмо подписали более тысячи ученых и среди них такие знаковые фигуры в мире технологий, как Илон Маск, Стив Возняк (один из основателей Apple), а также профессора Гарварда и Кембриджа.
Авторы пишут: “...продвинутый ИИ может представлять собой глубокое изменение в истории жизни на Земле… Эти изменения необходимо планировать и управлять ими. К сожалению, последние месяцы лаборатории ИИ увлечены неконтролируемой гонкой по разработке и развертыванию все более мощных цифровых умов. И никто - даже их создатели - не могут до конца понять, предсказать или надежно контролировать этот процесс.... Должны ли мы развивать искусственный разум, который в конечном итоге может превзойти и заменить нас? Вправе ли мы рисковать потерей контроля над нашей цивилизацией?”
А Билл Гейтс - против!
Ученые предлагают объявить мораторий на обучение нейронных сетей “более мощных, чем GPT-4” и добиться, чтобы его соблюдали все ключевые участники. Эту историю мы попросили прокомментировать Лорана Акопяна, генерального директора группы компаний iPavlov, исполнительного директора НИЦ АО «Швабе» в МФТИ.
- Лоран, письмо подписало много авторитетных людей, значит ли это, что они высказывают общую среди разработчиков точку зрения?
- Конечно же, нет. Обратите внимание, что письмо не подписали, например, основатель Microsoft Билл Гейтс или исполнительный директор Apple Тим Кук. Нет официальной позиции Google, хотя есть бывшие сотрудники этого IT-гиганта. Есть подпись Илона Маска, но его нельзя считать частью IT-сообщества, он все-таки коммерческий менеджер.
- Но ведь он один из основателей Open AI, которая создала ChatGPT - эта нейросеть сейчас удивляет публику чуть ли не каждый день…
- Действительно Маск создал этот проект своими деньгами, но потом они идеологически разошлись с Microsoft. И Маск не по своей воле вынужден был отдать Microsoft этот ресурс, которая инвестировала в него 10 миллиардов долларов. Выходя из проекта Маск сделал ряд резких заявлений. Поэтому это письмо можно считать своего рода ответкой с его стороны “захватчикам” из Microsoft. Вообще, в этом письме есть несколько слоев. Если проанализировать список подписантов, то четко видно, что это вероятно начало широкомасштабного конфликта между различными группами в индустрии искусственного интеллекта.
Конкуренты решили притормозить Microsoft?
- Почему именно сейчас появилось такое письмо, в эпоху всеобщей эйфории по поводу нейросетей, когда к чуть ли не каждый день появляется какой-то позитивный инфоповод? То нейросеть картину необычную нарисовала, то сдала экзамены в университет…
- Это как раз связано с тем, что технология вышла из стен лабораторий и получила массовое применение. ChatGPT, о котором все говорят, демонстрирует самые высокие темпы роста пользователей, оставив далеко позади феномен самых популярных социальных сетей. Конкуренты почувствовали, что одна корпорация слишком сильно вырвалась вперед. Поэтому они хотят Microsoft немного притормозить.
Что общего между искусственным интеллектом и ядерным оружием?
- То есть это такие разборки между участниками рынка?
- Не только. Есть еще один слой. Это тревога по поводу способности человечества контролировать развитие технологий. Такие идеи высказывал Стив Возняк, который всегда был противником искусственного интеллекта и всевластия больших корпораций. Искусственный интеллект сам по себе, как идея, как наука - совершенно безобиден. Но этот инструмент обладает колоссальными возможностями и надо понимать, в чьи руки он попадет. Я приведу такую аналогию: в своё время Альберт Эйнштейн возглавил большую делегацию физиков из Германии, которая обратилась к президенту США Франклину Рузвельту. Ученые сказали: мы стоим на пороге создания ядерного оружия, но эта технология не должна попасть в руки Гитлера, давайте мы отдадим ее вам. В те времена Америка рассматривалась, как надежда человечества - новая страна, оплот демократии, не участвовала в развязывании мировых войн и т.д. Но потом Эйнштейн очень сильно жалел об этом решении, потому что первое, что сделала Америка, получив в руки ядерное оружие, это применила его во время бомбардировок Хиросимы и Нагасаки. В случае с ИИ ситуация гораздо сложнее…
- Почему?
- Потому что ядерное оружие контролировали правительства крупных государств. А здесь такая крутая штука, как искусственный интеллект, попала в руки корпораций. Поскольку, как технология, ИИ возник независимо от государства.
- В чем угроза? Мы действительно можем потерять контроль над цивилизацией?
- Произошло событие, последствия которого мы не очень хорошо себе представляем. Сегодня все люди верят Google и Википедии, потому что это массовые и очень достоверные ресурсы. Но ChatGPT и нейросети, которые его превзойдут, будут еще более массовыми и более точными. Впервые на планете появился разум, который будет обладать неслыханным влиянием на умы людей: 8 миллиардов человек смогут общаться с одним искусственным разумом. Но вот проблема: когда мы читаем книгу, мы знаем кто ее написал и можем судить - доверять этому человеку или нет. А кто автор сверхразума, который сейчас создается? Этого не знает никто.
Почему разработчики иногда “убивают” нейросеть?
- А как же разработчики, у них же есть конкретные имена и фамилии?
- Сколько человек в мире реально знает, как на аппаратном уровне работает компьютер? Я думаю, во всем мире от силы сотня крупных ученых наберется, которые понимают это архитектуру от и до. В случае с искусственным интеллектом таких ученых ненамного больше. Но технологии ИИ изначально создавались с открытым кодом, это значит, что сотни тысяч лабораторий по всему миру могут заниматься машинным обучением, понятия не имея, как работает нейросеть. Угроза в том, что очень умные системы массово обучаются людьми, которые их плохо понимают. Чему они учат нейросеть - один только Бог знает. Есть опасность, что эти боты рано или поздно свяжутся и уйдут из под контроля. Такие случаи уже были. В 2015 году Microsoft создал чат-бот, который обучили на не совсем правильных данных, он начал ругаться матом, стал расистом и женоненавистником. В итоге разработчикам пришлось его “убить”.
- Лоран, такие же опасения возникали, когда появилось другая, не менее революционная технология - книгопечатание. Вот напишет человек книгу, напечатает - пойди разбери, как она повлияет на умы? Миллионы людей, читая “Преступление и наказание” Достоевского, переживало трагедию Раскольникова, которого терзали муки совести. А Гитлер взял оттуда идею сверхчеловека, которому все позволено...
- Вот точно также говорит государство: дайте нам конкретный кейс, из которого мы поймем откуда идет угроза. Но сказать, как конкретно технологии ИИ будут использованы во вред человечеству, мы не можем. Так же как нормальному человеку сложно представить, как гуманистические идеи Достоевского могут служить античеловеческой идеологии. Но для нас, разработчиков, такая угроза очевидна. В том числе поэтому и появилось это письмо.
