Ведущий специалист Open AI Брендедж бежал из компании в страхе перед ИИ
Open AI не готов к тому, что они собираются выпустить. И мир не готов
Прямо в эти минуты, когда пишутся эти слова, большая шишка в Open AI, Майлз Брендедж, собирает вещи и навсегда покидает компанию. Он оставил записку, которая объясняет мотивы бегства – и главное там, что мир не готов к тому монстру, который вот-вот произведут создатели Chat GPT.
В компании Брендедж возглавлял департамент, который оценивал готовность человечества воспринять ИИ нового поколения. Недавно Open AI расформировало департамент по безопасности ИИ – это как если бы на пищевом комбинате убрали санэпиднадзор. Да хоть все отравитесь, нам не важно. Закрытие службы, которая анализирует степень готовности человека к встрече с более умным роботом – следующий закономерный шаг. Так что, может, Брендеджа просто поперли, вот он и «прозрел».
А что, собственно, такого разрабатывают в секретных лабораториях? Нынешний ИИ, который подделывает голоса родственников и вымогает деньги в пользу мошенников уже кажется предельно жутким – а что дальше-то будет?
Летом в Open AI состоялось закрытое совещание, но кое-что утекло в СМИ (небось, Брендедж и слил). Компания решила, что существует пять уровней ИИ. Первый – это тот, на котором сейчас. Подделка голоса, фотографий, видео, и в целом такая безобидная болтушка, вроде умной колонки, которая может поддерживать треп на любые темы. Говорит, но мыслить не может.
Кажется, компания вот-вот выставит продукт следующего, второго уровня – машина, столь же умная, как доктор наук. На пятом, высшем уровне – робот, способный решать задачи огромной фирмы или целого государства. Сверхразум, Скайнет из фильма «Терминатор». До него, стало быть, еще далеко (выдохнем), а вот искусственный Доктор Зло – уже завтра-послезавтра.
Брендедж долго (и нудно) расписывает, какая Open AI прекрасная компания. Когда она появилась в 2015-м (наш герой к тому времени уже стал профессором всевозможных наук и успел поработать на правительство), Брендедж кушать не мог, так хотел в нее попасть. А что теперь? «Я скажу честно: Open AI не готов к тому, что они собираются выпустить. И мир не готов».
Майлз Брендедж
То есть сам создатель не справится с собственным порождением. А мы-то, рядовые пользователи-страдальцы, и подавно.
Брендедж говорит, что придумает собственную организацию, которая обезопасит мир от Доктора Зло. Как именно – у Брендеджа есть план (он его опубликовал еще в прошлом году), но, если честно, это очень скучно и нереалистично. План, наверное, хорош для мира, в котором живут розовые пони, и существует мифическое гражданское общество, которое придерживается гуманистического курса и воздействует на правительства, а мафиози и прочих злоумышленников просто нет. Общественность должна «договориться», «указать на риски», «разработать пошаговый план» и все такое прочее.
Возможно, Брендедж в самом деле посмотрел на кухню Open AI, ужаснулся, и испытал перерождение личности. А возможно, как мы уже говорили, у Open AI сорвало крышу, а вместе с нею улетели и критики в лице Брендеджа. Тут уже неважно. В письме он мягко намекает, что ему затыкали рот, так что скорее второе.
Капитализация Open AI сейчас оценивается в 10 миллиардов долларов. Рынок ИИ нового поколения на ближайшие годы – где-то в триллион. Тем более странно, что из компании бегут. Так, ее покинул сооснователь Ян Лейке, написав следующее: «Создание машины умнее человека – очень опасное занятие. Open AI берет на себя громадную ответственность за все человечество. Но то, что они наплевали на безопасность и ударились в коммерцию – громадная ошибка».
Итак, пока многие эксперты вообще не верят, что ИИ второго уровня возможен, люди, которые сидят внутри компании, напуганы так, что теряют бизнес в миллиарды долларов и просто дают деру. Можно предположить, что создание Доктора Зло – не фикция, и что компания действительно не сможет справиться со своим порождением. Доктор выйдет за пределы компании. Начнется хаос. Многие не хотят быть к этому причастными.
Правительство США (а какое еще, компания-то американская) делает вялые взмахи, и неуверенно грозит Open AI (а также двум-трем другим ИИ-компаниям) какими-то «расследованиями» и «аудитами». Мол, у нас рука на пульсе. Но ясно, что лишь воздух сотрясают. Если бы Open AI украло государственные деньги, а продукт не сделало, тогда да. Расследование и посадки. Но Open AI денег у государства не брала, а сделала даже больше, чем нужно. Ну, перестарались ребята. ИИ высокого уровня – то, о чем мечтает американское государство. Тотальная слежка. Полный контроль за интернетом. Недавно просочились планы Пентагона: настрогать миллионы ботов, и подослать их в локальные чаты по всему миру. Городок, например, во Владимирской области. Местный чат. Тут же сидит некто под ником, по разговору понятно, что местный. Но это бот-разведчик. Умно? Умно и страшновато.
Что касается Брендеджа, Лейке и других, не так они прекраснодушны и не так глупы. Если рынок яда (Доктора Зло) – триллион, то рынок противоядия – небось, 10 триллионов. На этот формирующийся рынок они и хотят сесть. Так что не себе в ущерб спасают человечество.