Содержание
В Британии закрылся Институт будущего человечества
Институтом будущего человечества руководил философ Ник Бостром
Руководство Оксфорда закрыло подведомственный ему Институт будущего человечества. Институт основан 19 лет назад, и все это время им руководил философ Ник Бостром. Тот самый, кто считает, что реальность только кажется реальной, а на самом деле все мы обитаем в Матрице. Не помогло заступничество Илона Маска: миллиардер с Бостромом дружит, в Матрицу верит, и даже как-то давал институту денег. Объяснения боссов Оксфорда невнятные, поэтому многие решили: ученые слишком близко подобрались к Правде, и им заткнули рот. Так ли это?
МОДНЫЙ ФИЛОСОФ
Ник Бостром, философ шведского происхождения, лысоватый, в изящных круглых очках – любимец технологических капиталистов из Кремниевой долины.
В 1998 году он заявил, что все мы живем в компьютерной симуляции. Вскоре вышел фильм «Матрица», и Бостром получил рекламу своим взглядам, о которой можно только мечтать. Как так совпало, что почти одновременно и фильм, и философ со своей прорывной статьей, и совпало ли – история темная, разное говорят. Тема «модные ученые сотрудничают с Голливудом ради взаимной выгоды» крайне закрытая и мало изученная. Но такая тема есть.
В 2014-м Бостром снова на шаг впереди других. Не у всех еще есть смартфоны, а про ИИ тем более многие не слыхивали, а он выпускает книгу «Суперинтеллект», в которой уверяет: умные машины всех нас погубят. Бестселлер с восторгом встретили Илон Маск, Билл Гейтс и Сэм Альтман (глава Open AI, разработчика GPT4). Закономерно, такой звезде, как Бостром – путь только в Оксфорд, и не просто профессорское место, мелковато будет. А собственный институт. С академическим статусом.
С деньгами проблем не было. В 2015-м Маск пожертвовал 2 миллиона долларов, но он не был даже самым щедрым. Миллионер Дастин Московиц отвалил 25 миллионов. Но всех превзошел криптоделец Сэм Бэнкман-Фрид. Этот просто направил в сторону института денежный шланг. Запомните это имя.
ЦЕЛЬ – ПОМЕТИТЬ ВСЕ ЧЕЛОВЕЧЕСТВО
Вновь образованный институт выдвинул философскую концепцию «эффективного альтруизма», которую с восторгом подхватили спонсоры. Сдается, что спонсоры ее и придумали, а Бостром с сотрудниками лишь полировали формулировки и придавали идее лоск.
Эффективный альтруизм предполагает, что помогать надо не всем подряд нуждающимся, а лишь тем, у кого есть шанс встать на ноги. Мало ли что у тебя ни гроша, что ты болен, что ты раздавлен обстоятельствами. Старый? Уходи. Необразованный? Туда же. Английского не знаешь – в топку. У нас ведь цель помочь не тебе, а общечеловеческому прогрессу. А какой с тебя прогресс, если ты старый и скоро помрешь?
Излишне говорить, что капиталисты обожают такой подход, но прямо формулировать стесняются. Любимая ими притча про голодного, которому надо дать не рыбу, а удочку – это же завуалированный эффективный альтруизм (а что, если он удочку от слабости не удержит? – его проблемы). Но с этой удочкой они уже всем надоели, а придумать что-то новенькое – ума не хватает. И тут как раз Бостром с философски благородными формулировками.
Но дальше – больше, и Бостром выдвигает концепцию долгосрочности, которая, пожалуй, превосходит по цинизму даже самые смелые мечты капиталистов.
Нас, филантропов и благотворителей, вообще не волнует, как обстоят дела сегодня. Люди, обитающие на Земле сейчас, интересны лишь тем, что они нарожают тех, кому жить потом, в далеком будущем. Современный человек может быть несчастен, болен, беден – все это не играет никакой роли. Филантроп должен решать долгосрочные цели.
Как же именно их решать? Здесь сотрудники Института нагоняли изрядно тумана. Но сам Бостром, например, предлагал вешать на людей бирку свободы. Это электронное устройство, которое нельзя снять. Оно сообщает о вас все: где вы, что вы, куда вы. Его надо по первому требованию предъявлять полиции. Носить такие бирки обязаны все люди планеты Земля. Цель – чтобы некоторые не сошлись в заговоре с ИИ, и не задумали погубить человечество.
Понятно: если кто и вступит в сговор с ИИ, так это его разработчики. Тот же Сэм Альтман. И ясно, что никакая бирка свободы от этого не спасет. Бостром просто собирался повесить это на всех и каждого.
Ну, и у него начались проблемы. Он разозлил левых, которые «за свободу личности», выбесил производителей смартфонов, которые бирки свободы уже наклепали и нам раздали, наконец, появились вопросы у бывших друзей – уж слишком открыто выражается. А деньги любят недомолвки и тишину.
А ЕЩЕ ОН ОБЗЫВАЛСЯ НА БУКВУ «Н»
Бороться с Бостромом решили так, как вообще принято сейчас на Западе. Через культуру отмены.
Сначала пронесся скандал, что на вечеринках, где собираются сторонники эффективного альтруизма, не обходится без сексуальных домогательств. Затем порылись в старых письмах и постах Бострома, и оказалось, что он расист. В 1990-е он что-то такое говорил о чернокожих, и даже употребил слово «негр». Бостром выступил с извинениями и пояснениями, но сообщество решило, что все это не шибко убедительно.
В 2020 году Оксфорд запретил Институту будущего привлекать пожертвования и нанимать новых сотрудников. С этого момента организация была обречена и, надо признать, протянула на остатках прежних грантов довольно долго.
Последней каплей, потопившей дырявую лодку Института, стал скандал – и это очень мягкое слово – с его главным спонсором, криптодельцом Сэмом Бэнкманом-Фридом. Фильм «Волк с Уолл Стрит» словно воплотился наяву. Сэм обвинен в махинациях, 24 марта ему впаяли 25 лет тюряги – а хотели 110 лет. В тот же день, 24 марта, Бостром получил письмо от руководства Оксфорда: сваливайте. Бостром какое-то время пытался решить проблемы келейно, но, когда стали выносить вещи, вынес и он сор из избы.
СПАЛИ НА СТОЛАХ И СВИНЯЧИЛИ
По версии боссов Оксфорда, в Институте толком ничего не делали, но развели свинарник. Так, сотрудники регулярно ночевали на рабочих местах, с ногами дрыхли на столах, но это ведь не дело. Им не раз запрещали оставаться в кабинетах после отбоя. Но они игнорировали.
Бостром говорит, что Институт оказался слишком ярким и эффективным для бюрократической структуры Оксфорда. Он пишет: мы придумали шуточную единицу, 1 Оксфорд. Он равен 138 электронным письмам. Именно столько надо написать писем, чтобы решить самый мелкий вопрос. например, чтобы пришел мастер, и заменил лампочку.
Стороны стараются сохранить лица: Оксфорд говорит, что Институт был блестящей вехой, но так вот, мол, получилось, Бостром всячески расшаркивается перед Оксфордом, откуда он теперь сваливает окончательно.
Все понимают: дело не в бюрократии и не в свинарнике в кабинетах. Посадили Сэма – отвалился мощный поток денег. А репутационные риски с Бостромом и его стремными высказываниями остались. Вот Оксфорд и глядит: денег нет, Бостром карму портит, пора с этим кончать. Да, Маск напишет пару желчных твитов, ну и пусть. Денег Маск Оксфорду все равно не дает. Миллион фунтов (2 миллиона долларов) в далеком 2015-м уже потрачены и забыты.
СМЕНА ПОКОЛЕНИЙ
Конечно, люди, которые верят, что мы живем в Матрице – есть. И, конечно, они пишут, что Институт будущего человечества до чего-то такого докопался, до Правды, за что и пострадал. Но фактов немного.
Мне больше нравится другая теория. Бостром был с самого начала как бы против ИИ. Понятно, что его бирки свободы – это настоящая биг дата, то есть тот же ИИ, но на словах Бостром вроде как против. Эта его позиция была выгодна Сэму Альтману и Биллу Гейтсу лет десять назад, когда про ИИ мало что знали, и надо было пропагандировать идею искусственного интеллекта как таковую. «Эй, тут какой-то чувак говорит, что нас убьет ИИ. Не знаешь, что это такое?»
Сейчас ничего рекламировать уже не нужно, этот год и следующий – прорывные, вплоть до того, что вот-вот появится суперинтеллект, значит, Бостром больше не нужен.
Кого в этой истории жалко, и на чьей стороне симпатии. Никого не жалко, и ни на чьей. Бостром – крутой ученый, умничка, и не пропадет. Его цинизм и способность извлечь деньги из воздуха говорят сами за себя. Оксфорд – бюрократическое болото, и там не гнушаются, чтобы человека раздавить, поднять его старые письма. Кто бы сомневался. Так было всегда, и так будет всегда. Об Оксфорде мы не узнали ничего нового.
Концепция «эффективного альтруизма», скорее всего, быстро забудется, поскольку времена изменились, и старые байки начинают надоедать. Нужны новые байки. Придумает их Бостром, или кто-то другой, нам не так уж и важно.