Хассабис: до AGI несколько лет, а готовиться уже некогда

Нобелевский лауреат и глава Google DeepMind Демис Хассабис ранее на этой неделе обронил на мероприятии Google фразу, от которой поморщилась его же пиар-служба: мы стоим в предгорьях сингулярности. В Стэнфорде он эту мысль развернул - до искусственного интеллекта человеческого уровня осталось несколько лет, а общество к переменам не готово. В разговоре с президентом университета Джонатаном Левином он сравнил надвигающиеся перемены с десятью промышленными революциями, спрессованными в одно десятилетие, и описал двойную гонку - между лабораториями и между США и Китаем, - в которой осторожность превратилась в конкурентный проигрыш. Хассабис объяснил, почему отдал AlphaFold бесплатно, чем опасна "гонка на дно" в безопасности ИИ и почему, по его словам, будущее всё ещё не написано.

Сара Соул: Огромная радость видеть всех вас на разговоре с Демисом Хассабисом. Для нас особая честь, что эту беседу ведёт президент Стэнфорда Джонатан Левин.

Стэнфорд уникален тем, что многие важнейшие идеи рождаются не внутри отдельной школы или дисциплины, а на их стыке. Этот дух междисциплинарного сотрудничества особенно важен сейчас, когда искусственный интеллект меняет почти все сферы жизни общества. И нигде это не имеет таких последствий, как в медицине. Я чувствую это лично - через тесное партнёрство нашей школы бизнеса со Стэнфордской медицинской школой, которая взялась за грандиозную задачу: заново придумать, как лечить рак и бороться с ним, объединив специалистов по социальным наукам, учёных, врачей, инженеров и новаторов, чтобы изменить весь путь пациента - от профилактики до жизни после болезни.

Это амбициозное видение, и оно потребует всех возможностей большого университета, работающего сообща. Сила Стэнфорда не только в превосходстве внутри отдельных областей, но и в умении связывать их между собой. Мы сводим вместе исследователей ИИ и врачей, руководителей организаций и учёных, предпринимателей и людей, глубоко преданных идее человеческого благополучия. Поэтому сегодняшний разговор так важен.

Демис Хассабис - исследователь искусственного интеллекта, предприниматель и нобелевский лауреат, чья работа находится ровно на этих пересечениях. Он сооснователь и CEO компании Google DeepMind, одной из ведущих в мире лабораторий по исследованию ИИ. Она была основана как DeepMind в 2010 году и куплена Google в 2014-м. Сегодня компания играет центральную роль в усилиях Google в области ИИ и подарила миру несколько определяющих прорывов. Среди них AlphaGo - первая программа, обыгравшая чемпиона мира по игре го, и AlphaFold, решившая 50-летнюю фундаментальную проблему предсказания структуры белка: она точно предсказывает трёхмерную форму белков. Это прорыв с огромными последствиями для понимания болезней и разработки лекарств. За эту работу Демис вместе с Джоном Джампером и Дэвидом Бейкером получил Нобелевскую премию по химии 2024 года. Он также член Лондонского королевского общества и Королевской инженерной академии. В 2024 году он был посвящён в рыцари за заслуги перед искусственным интеллектом. Несколько раз входил в список Time 100 самых влиятельных людей мира, в том числе в 2017 и 2025 годах.

Но что делает этот момент в Стэнфорде особенно значимым - так это то, что разговор об ИИ здесь никогда не сводился только к возможностям технологии. Он всегда был и о человеческом процветании. Несколько лет назад профессора Фей-Фей Ли и Дженнифер Аакер начали вести в Стэнфорде курс "ИИ для человеческого процветания", построенный вокруг глубоких вопросов. Что значит быть человеком? Как выглядит процветание? И когда технология помогает этим целям, а когда подрывает их?

Одна мысль из этой работы крепко засела у меня в голове: некоторые виды трения на самом деле несущие. Поиск нужного слова, неловкость трудных разговоров, сложность освоения нового - это не неэффективность, которую надо устранить. Наоборот, именно через такой опыт рождаются рост, самостоятельность, стойкость и смысл.

Вот почему наш сегодняшний разговор так важен. В Стэнфорде успехи ИИ - не абстракция. Они уже меняют то, как мы думаем об открытиях, диагностике, лидерстве, обучении и о самом человеческом потенциале. Они же заставляют нас всерьёз браться за более крупные вопросы - о суждении, этике, институтах и о том, какую жизнь мы в итоге хотим строить с помощью технологий. Спасибо, что пришли, и поприветствуйте вместе со мной президента Джонатана Левина и Демиса Хассабиса.

Джонатан Левин: Демис, рад видеть вас в Стэнфорде.

Демис Хассабис: Прекрасно быть здесь. Спасибо всем, что пришли.

Джонатан Левин: Спасибо, что согласились на это. Я задам вам несколько вопросов, будут и вопросы от студентов.

Сквозная линия карьеры

Джонатан Левин: О вас много писали в последнее время - фильм, книга, так что многие слышали о вашем пути. Он и правда впечатляющий: вундеркинд-шахматист, разработчик видеоигр, учёный, технологический предприниматель и руководитель, нобелевский лауреат. И это только первая половина карьеры. Если бы вы попытались провести сквозную линию через всё это, что бы это было?

Демис Хассабис: Думаю, таких сквозных линий несколько, хотя темы кажутся не связанными между собой. Во-первых, мне всегда нравилось работать на пересечении творчества и технологий в самом широком смысле. Индустрия видеоигр, с которой началась моя карьера в 90-е, была одним из самых творческих пространств вообще - там передовые технологии соединялись с искусством и дизайном, чтобы создать совершенно новую развлекательную среду. Это было потрясающее время; пожалуй, самые весёлые годы в моей карьере пришлись как раз на начало 90-х.

Шахматы, нейробиология - всем этим я занимался, потому что с самого раннего возраста считал, что работа над ИИ и AGI (общим искусственным интеллектом, сопоставимым с человеческим) - самое важное и самое интересное, чему можно посвятить жизнь. Подростком я, наверное, прочитал слишком много научной фантастики, читал такие книги, как "Гёдель, Эшер, Бах", биографии моих научных героев - Тьюринга, Фейнмана и других. Всё это вдохновляло меня по-настоящему глубоко понять окружающий мир. А создание ИИ стало для меня воплощением этой миссии - построить совершенный инструмент для науки.

Жизнь коротка, поэтому я старался переиспользовать каждый свой опыт ради этой большой путеводной цели, которая у меня есть уже больше 30 лет. Шахматная подготовка - это то, как я мыслю о бизнесе, об организации дел, о планировании; умение разбивать очень амбициозные планы на более мелкие, выполнимые шаги идёт именно из шахматного мышления. Видеоигры научили меня инженерным проектам большого масштаба, управлению компаниями и стартапами. А соединение творчества с инженерией - это ровно то, чем мы сегодня занимаемся с ИИ: это инженерная наука, где творческая и научная работа сплавлены с жёсткой, передовой инженерией. И наконец, как все знают, в ранние годы DeepMind мы использовали игры как идеальный полигон для проверки алгоритмических идей - наверное, самый известный пример это AlphaGo, десятилетие которого мы только что отметили и который, если оглянуться, стал началом современной эпохи ИИ.

"Решить интеллект, потом - всё остальное"

Джонатан Левин: Когда вы в 2010-м всерьёз занялись ИИ, основали DeepMind, у вас было очень амбициозное видение: вы собирались решить интеллект, а затем решить всё остальное. Как успехи? Давайте уточню: что пошло по плану, а что - нет?

Демис Хассабис: Если брать общие контуры, всё сложилось - пожалуй, невероятно удачно. Когда мы запускали DeepMind в 2010 году, представьте: мы ходили по венчурным инвесторам в Британии, которых там и было-то немного, с таким бизнес-планом - шаг первый: решить интеллект, шаг второй: использовать его, чтобы решить всё остальное. Люди были, мягко говоря, в недоумении. Но мы говорили это всерьёз и до сих пор пользуемся ровно этой формулировкой миссии.

Под "решить интеллект" мы имели в виду построить AGI; в идеале по пути ещё и понять природу интеллекта, а возможно, использовать AGI, чтобы лучше понять собственный мозг и разум - такие вещи, как природа сознания, что такое творчество, сновидения, все эти глубокие тайны психики. Одна из причин, почему я изучал нейробиологию, - желание почерпнуть из того, что мы знаем о мозге, идеи для алгоритмов.

Шаг первый - построить AGI. А дальше мы всегда держали в голове то, что и произошло: это технология общего назначения, может быть, та самая технология общего назначения. И если построить её правильно - как очень универсальную обучающуюся систему, - где предел того, к чему её можно применить? Мечта была в том, что почти к чему угодно. И, по-моему, так и вышло.

Под шагом вторым я конкретно имел в виду продвижение науки и медицины. Меня завораживали большие вопросы: природа времени, природа реальности - может быть, самый фундаментальный из них. В школе я любил физику, это был мой любимый предмет; когда тебя интересуют большие вопросы, ты, скорее всего, приходишь к физике. Но я решил, что интересных больших вопросов слишком много. Как взяться за все сразу за одну жизнь? На мой взгляд - создавая новые инструменты, которые помогут лучшим учёным и экспертам гораздо быстрее продвигаться в их областях. К тому же сам ИИ - это ещё и захватывающий объект исследования, по сути новая научная область.

Так что мне это казалось самым увлекательным и самым важным делом, которому можно посвятить жизнь. Я занимался бы этим, даже если бы ничего не вышло, - нашёл бы способ делать это в академии или где-то ещё. А всё, чем я занимался раньше, было разными способами набрать опыт и знания, чтобы в 2010 году замахнуться на DeepMind, когда мы почувствовали, что готовы к быстрому прогрессу. И вторая часть - "использовать это, чтобы решить всё остальное" - сегодня уже гораздо шире, чем только наука и медицина, хотя именно там я старался работать лично. Очевидно, что ИИ окажется потрясающим для производительности и многого другого за пределами науки и медицины.

Atari, Pong и первый прорыв

Джонатан Левин: По мере того как вы строили в DeepMind разные модели - начали с игр, потом перешли к науке, - были ли отдельные моменты, когда вы вдруг увидели: это и правда сработает? Вроде хода AlphaGo?

Демис Хассабис: Было много моментов, когда я думал, что не сработает, - так точнее. Некоторые помню очень хорошо. Мы начали с игр, потому что они замкнуты в себе. Их специально придумали люди, чтобы они были сложными или интересными для других людей. И они часто бывают микромоделями множества реальных ситуаций. Если взять го, покер или шахматы... Я всегда думал, что в программе MBA или бизнес-школы стоило бы вести модуль по играм - изучать такие игры, дипломатию. В лучших играх есть по-настоящему интересные грани реальной жизни, и при этом в них можно тренироваться много раз в безопасной обстановке. Вот чем игры по-настоящему полезны.

То же касается и обучающихся систем ИИ: это аккуратные, сложные среды с чёткими целевыми функциями - что было очень важно для наших ранних дней с обучением с подкреплением (метод, при котором система учится методом проб и ошибок, получая награды за успех). Тогда почти никто не применял обучение с подкреплением к сколько-нибудь масштабным задачам - это была академическая дисциплина, но её использовали в основном для игрушечных задач вроде маленьких клеточных миров. Было неясно, масштабируется ли это хоть до чего-то серьёзного.

Поэтому мы начали с самых известных, но при этом самых простых игр, ставших всемирно популярными, - игр Atari 70-х годов. И начали с простейшей из всех, Pong: две ракетки и мяч. В игру встроена система, управляющая вашим противником: она использует всю информацию, которая есть у игры, - где мяч и так далее, - чтобы двигать ракетку. А мы хотели понять: можно ли играть в Pong, имея только пиксели на экране? Только сырые данные, сырой видеосигнал - и больше ничего. Никакой привилегированной информации о внутренностях программы, о том, где мяч и какова его скорость, хотя самой программе это, конечно, известно.

Нашей системе для Atari - она называлась DQN - мы ничего этого не давали. Она получала только 20 000 пикселей на экране. Сейчас это кажется ерундой, но в 2010 году это был огромный объём входных данных. Никто раньше не имел дела с чем-то настолько сложным, да ещё умноженным на все кадры. И месяцев шесть - хотя по ощущениям, может, всего два - мы не могли выиграть в Pong ни одного очка. Система просто дёргала ракетку туда-сюда. Я думал: да научится ли она вообще хотя бы управлять ракеткой? У неё не было никаких представлений обо всём этом, и она проигрывала встроенному ИИ со счётом 21:0.

У нас было несколько разных подходов, и почти не было денег. Те пара миллионов долларов финансирования, которых сегодня не хватило бы даже на стажёра, - это был весь наш бюджет, и для вас, студентов, это хорошая новость. Зарплаты мы себе почти не платили, деньги заканчивались. И я думал: ну что ж, может, мы и правда лет на десять раньше времени, а может, и на двадцать. А потом она вдруг чудом взяла очко - и я подумал: может, просто повезло. Потом она стала брать много очков, потом стала выигрывать партии, и тут стало ясно: всё, взлетели.

Те из вас, кто занимается машинным обучением, это знают: если зацепился, то обычно можешь шаг за шагом выкарабкаться наверх. Такова вообще история ИИ: стоит чему-то заработать - и почти всегда находится способ это оптимизировать. Так вышло с Atari. Это был наш первый крупный результат и первая статья в Nature - по сути, первая модель глубокого обучения с подкреплением в масштабе: глубокое обучение, чтобы освоить область и справиться со сложными зрительными входами и найти в них закономерности, а поверх него - обучение с подкреплением, чтобы принимать решения и планировать.

AlphaGo: ход, которого никто не видел

Демис Хассабис: И конечно, всё это вылилось в AlphaGo, к чему мы и стремились. Дэвид Сильвер, который возглавлял тот проект, и я дружили ещё со студенческих лет в Кембридже и обсуждали это ещё тогда, в середине 90-х. Матч Deep Blue против Каспарова случился, пока мы были в университете. Меня он завораживал и с шахматной, и с точки зрения ИИ. Но мозг Каспарова впечатлял меня больше, чем Deep Blue. Каспаров со своим невероятным умом - один из величайших шахматных гениев всех времён - на равных соперничал с этой стоявшей рядом суперкомпьютерной машиной грубой силы. Но при этом он умел делать своим умом всё остальное: говорить на пяти языках, заниматься политикой, водить машину - всё, что умеет человек. Вот это было по-настоящему впечатляюще, гораздо сильнее.

Значит, в системе Deep Blue чего-то не хватало. Те экспертные методы, где вручную задают эвристики, а поверх пускают перебор грубой силой, - так до сих пор работают многие классические шахматные программы, - годятся для шахмат, но для го они никогда не работали. Го - игра слишком эзотерическая: в ней нет материала, все камни равноценны, всё держится на узорах и интуиции. Даже сильнейшие игроки в го играют именно так. И мы подумали: если кто-то и правда дойдёт до уровня чемпиона мира в го, то ценно не само это достижение - оно скорее побочное, - а то, что нужный подход почти наверняка окажется по-настоящему интересным алгоритмически и, надеюсь, обобщится на другие области. Так и вышло с AlphaGo.

И всё превзошло наши самые смелые мечты. AlphaGo не только выиграл матч у Ли Седоля в 2016 году - он создал новые, никогда прежде не виданные стратегии, хотя го - древнейшая игра, придуманная человечеством, ей больше двух тысяч лет, и профессионально в неё играют сотни лет. А этих стратегий мы не открыли. Для меня это был двойной триумф. Я ждал того момента, когда ИИ сможет придумать что-то по-настоящему новое. Это, конечно, не высший уровень творчества, есть и более высокие, но это была хотя бы новая идея. И именно этого момента я ждал, чтобы начать применять ИИ в науке. Как только мы вернулись из Сеула, мы запустили проект AlphaFold.

AlphaFold: почему его отдали бесплатно

Джонатан Левин: Давайте поговорим о науке. Вы перешли к проблеме сворачивания белка - и снова выбрали задачу, где были данные и чёткая целевая функция. И всё получилось: вы и правда решили давнюю проблему предсказания структуры белка. При этом вы сделали нечто очень интересное. AlphaFold был огромным научным прорывом, достойным Нобелевки, и, вероятно, имел большую коммерческую ценность - а вы просто раздали его бесплатно. Как вы пришли к этому решению? Думали ли о других вариантах? Почему отдали даром?

Демис Хассабис: Мы выбрали проблему сворачивания белка. Она была у меня на прицеле тоже со студенческих лет в Кембридже - там я впервые с ней столкнулся. У меня было несколько друзей-биологов, помешанных на этой проблеме; в итоге они стали структурными биологами. Один из них каждый раз, когда мы играли в пабе в настольный футбол, навязчиво твердил, что это важнейшая проблема биологии. И что ещё важнее, я воспринимаю её как корневую: если её разгадать и найти структуры белков, это откроет целые новые направления исследований - очевидно, разработку лекарств, но и фундаментальную биологию, и понимание болезней. Так что на эту задачу стоило потратить массу внимания и времени - из-за всех её последствий ниже по цепочке.

К тому же сама задача казалась мне завораживающей - вершина головоломки: как последовательность аминокислот, которую можно мыслить как генетическую последовательность, сворачивается в трёхмерную структуру. Удивительно интересная, тонкая штука. Чем больше я вникал в белки, тем сильнее росло моё восхищение биологией - эти невероятные крошечные биологические наномашины. Вся жизнь зависит от белков; начинаешь смотреть на их структуру - и начинаешь понимать их функцию. Как научный вопрос это меня завораживало.

И да, тут была чёткая цель - что-то вроде минимизации свободной энергии системы. Видимо, именно так это делает физика - потому белки в вашем теле сворачиваются за миллисекунды, миллиарды раз в секунду. Раз физика как-то это решает, значит, должна быть некая топология, которую можно выучить с помощью системы глубокого обучения, чтобы она направляла поиск - ровно как мы сделали с AlphaGo, отыскивая сильный ход в го среди большего числа вариантов, чем атомов во Вселенной. У сворачивания белка пространство поиска даже больше, но должен быть способ разумно его сузить: выучить своего рода эвристику с помощью моделей глубокого обучения, чтобы направлять поиск и сделать задачу решаемой. Это казалось задачей, очень похожей на ту, что мы решили в го, - можно было применить те же подходы и идеи к новой области.

И ещё одно. За плечами было 50 лет кропотливой работы по кристаллографии и структурной биологии, проделанной множеством прекрасных лабораторий и людей. После всех этих усилий в PDB (Protein Data Bank - главной базе данных структур белков) накопилось около 150 000 структур. На самом деле это немного: за этим стоит колоссальный труд, но белков существует 200 миллионов, а 150 000 для систем машинного обучения - очень мало данных. Поэтому большинство считало, что до достаточного объёма данных и нужных алгоритмов ещё лет десять-двадцать. Но мы почувствовали, что, задействовав все известные нам приёмы, в итоге сможем продвинуться. Так и вышло.

Когда мы решали, как добиться максимального эффекта, мне было очевидно: надо свернуть все белки. AlphaFold был не только точным, но и чрезвычайно быстрым - он сворачивал белок за считаные секунды. В итоге мы вместе с Европейским институтом биоинформатики в Кембридже, где хранятся многие крупнейшие биологические базы данных, выложили все 200 миллионов структур белков в их базу - так, чтобы найти структуру своего белка было так же просто, как сделать поиск в Google. Вместе с доверительными интервалами: система машинного обучения показывала, в каких частях структуры она уверена, а в каких нет, - это очень важно знать биологам.

Это, конечно, могло стоить очень дорого - не знаю, сколько миллиардов долларов, смотря как считать; сделать это экспериментально стоило бы и вовсе неисчислимо, и держать в собственности было бы огромной ценностью. Но для нас было ясно: сами мы смогли бы лишь поцарапать поверхность того эффекта, который дадут эти структуры, выложенные в открытый доступ. По всему миру AlphaFold пользуются около трёх миллионов исследователей - практически каждый день. Почти каждый биолог и медицинский исследователь в мире. Ни одна организация в одиночку такого бы не сделала. Так что это явно было правильное решение.

К тому же первые версии AlphaFold мы обучали на публичных данных - значит, было только справедливо вернуть этот удивительный ресурс сообществу структурных биологов, которое его так кропотливо создавало. Для меня это даже не был вопрос. Замечательно, что и руководители Google любят науку и сразу это поняли - не уверен, что все компании приняли бы такое решение, так что им за это большой респект. Это был лёгкий разговор. А дальше мы сами стараемся двигать это вниз по цепочке через Isomorphic Labs - дочернюю компанию Alphabet, которая строит несколько прорывов уровня AlphaFold и соединяет их так, чтобы, я надеюсь, ускорить разработку лекарств - сократить её с лет до месяцев, а может, когда-нибудь и до недель. Ровно как мы сделали со структурами белков, на одну из которых раньше уходили годы, а теперь хватает секунд. Это одно из по-настоящему волнующих направлений будущего с ИИ.

В предгорьях сингулярности

Джонатан Левин: Хочу на минуту вернуться к тому, что вы сказали в начале этой недели. Вы попали в новости, потому что на большом мероприятии Google заявили, что мы находимся в предгорьях сингулярности.

Демис Хассабис: Да, эта фраза разошлась довольно широко.

Джонатан Левин: Очень широко. И я понимаю, что пиар-команда Google, возможно, была не в восторге. Но раз уж вы это сказали - что вы имели в виду?

Демис Хассабис: Полностью я сказал вот что - этим я закрывал конференцию: когда мы будем оглядываться на это время - я думаю, лет через десять, - мы поймём, что стояли в предгорьях сингулярности. Что я под этим понимаю и почему выбрал именно это слово. Есть технология - AGI; так мы называем эту следующую версию по-настоящему универсального искусственного интеллекта. Я уверен, что до неё всего несколько лет - может, к 2030 году плюс-минус год, что само по себе поразительно. А дальше наступит эпоха, которая, я думаю, окажется настолько огромной и преобразующей, что по сути станет новой эрой человечества. Вот что я понимаю под сингулярностью - и о чём писали многие фантасты: это описание эпохи, в которой мы окажемся примерно тогда, когда появится AGI.

И, по-моему, в этом году это можно почувствовать. Хотя я работаю над этим 30 лет, именно в этом году - с тем, как работают агенты и использование инструментов, - всё это начало становиться по-настоящему полезным в рабочих процессах людей. Ещё ранняя стадия, но уже настоящая польза. И мы примерно понимаем, что ещё нужно доделать; все ведущие лаборатории над этим работают. Думаю, это самое начало, предгорья - впереди ещё много работы. И дело не в чём-то одном, а в нескольких разных технологиях и сценариях использования; некоторые вещи, которые я считал более далёкими, оказались уже здесь. В совокупности это и заставляет меня так говорить. А сказать это я хотел потому, что обществу нужно это услышать: у нас мало времени, чтобы подготовиться к тому, что это значит. Последствия будут колоссальными, и будущее, на мой взгляд, ещё не написано. Но ближайшие несколько лет станут критически важными - в какую сторону всё пойдёт и каким мы все вместе хотим это видеть.

Почему общество боится ИИ

Джонатан Левин: Если посмотреть опросы о том, как люди воспринимают ИИ - особенно в этой стране, - сейчас настрой очень негативный. Возможно, более негативный, чем в других странах. Причин, наверное, много: тревога о приватности, о госконтроле, о размере техкомпаний, о рабочих местах. Вы руководите одной из ведущих лабораторий - как вы относитесь к этой общественной тревоге?

Демис Хассабис: Думаю, общество вправе тревожиться. Есть вещи, которые беспокоят и меня - несколько аспектов того, что представляет собой эта технология. Она двойного назначения. Нечто настолько глубокое... Я иногда описываю её так: по масштабу это десять промышленных революций, спрессованных и идущих в десять раз быстрее - за десятилетие, а не за век. То есть это как бы стократная промышленная революция. И, честно говоря, это, скорее всего, ещё и недооценка, но и этого достаточно, чтобы попытаться осмыслить и справиться.

Конечно, будет и масса всего захватывающего - например, мы пытаемся справиться со всеми болезнями. Я уверен, что ИИ поможет со многими вызовами, стоящими сегодня перед обществом: от климата и энергетики до болезней. Я бы куда сильнее тревожился об этих вызовах, если бы не думал, что на подходе нечто вроде ИИ. Но он вызовет и множество перемен и потрясений - и технических, и экономических, и философских. Нам нужно всё это очень вдумчиво продумать и собрать вместе все части общества, а не только технологов. Технология и её безопасность - лишь один кусочек. Нужны экономисты, обществоведы, специалисты по человеку и человечеству, чтобы наметить, что будет дальше.

Думаю, одна из причин негатива именно здесь - в том, что в других странах всё иначе. Например, мы вернулись с саммита в Индии - там ИИ страшно популярен у молодёжи, потому что она видит открывающиеся возможности: доступ примерно к тем же инструментам, ради которых раньше нужно было ехать в Кремниевую долину. Мы живём в удивительный момент: почти каждый может получить доступ к тому, что происходит в передовых лабораториях, с задержкой всего в несколько месяцев. Если вдуматься, это что-то неслыханное.

Но отчасти дело и в том, как некоторые мои коллеги по цеху всё это формулируют. По-моему, они недостаточно аккуратны в коммуникации и слишком категоричны в своих заявлениях - там, где на деле огромная неопределённость. Сама эта неопределённость тревожна, но она же означает, что ничего ещё не предрешено. О направлении кое-что сказать можно, но очень многое зависит от действий ближайших лет - и от вас, сегодняшней молодёжи, многих студентов в этом зале. Вы первое поколение, выросшее, можно сказать, на ИИ - как я вырос на компьютерах. И, как каждое поколение, вы освоите эти технологии и станете с ними очень продуктивными. Думаю, по крайней мере ближайшие десять лет - дальше предсказывать трудно - вы будете буквально наделены сверхспособностями, если будете пользоваться ими правильно. Объём творчества и проектов, который сможет потянуть один человек, резко вырастет. Но это, возможно, изменит и саму природу занятости - станет больше небольших предпринимательских начинаний, а не больших компаний. Не знаю. Изменится многое.

И часть этого - в том, чтобы общество объединилось и всерьёз восприняло эту экспоненту. Не только технологи - экономисты и другие. Мы как раз обсуждали это вчера вечером: всё это нужно воспринять всерьёз прямо сейчас и начать намечать, как это будет выглядеть. Если мы окажемся, например, в мире изобилия, где дефицита больше нет, - как сделать, чтобы выгоду получили все? Очевидно, неправильно, чтобы от этой технологии выигрывали лишь несколько человек, или несколько компаний, или даже несколько стран. Выгода должна быть широкой - это затронет всё человечество, и блага должны достаться всем. Но как именно это сделать? Многие из нас давно об этом говорят, но ответы и конкретные действия нужны уже сейчас. Я намерен внести свой вклад. Мы важный игрок, но всё же лишь один из игроков. Хорошая новость в том, что все ведущие лаборатории и их руководители, хоть и расходятся во многом, действительно тревожатся о такого рода надвигающихся проблемах. Но нам нужно больше площадок, чтобы откровеннее всё это обсуждать. Думаю, именно это публика и улавливает - слегка перекошенные разговоры о том, что будет; а за частью этих сообщений, возможно, стоят и скрытые мотивы - привлечение денег и прочее. Нам нужно пользоваться научным методом, быть по-настоящему строгими и вдумчивыми в этот критический момент истории.

И, пожалуй, последнее. Я бы очень хотел, чтобы отрасль и всё поле недвусмысленно показали, в чём польза, - и не просто говорили о ней, а демонстрировали. В здоровье, в медицине, в науке - это, на мой взгляд, безусловные блага, как AlphaFold. Но таких примеров недостаточно. Их должно быть двадцать, как AlphaFold. Надо перестать рассуждать гипотетически о победе над раком и действительно победить рак. Вот что нужно, чтобы показать людям, почему те из нас, кто воодушевлён всем этим - а в этом зале таких много, - почему мы посвятили этому жизнь и как именно мы собираемся снижать риски, давая при этом дорогу всему тому замечательному, что мы хотим увидеть и что нужно обществу.

Джонатан Левин: Много отличных мыслей. Если бы появились ощутимые выгоды от прорывов ИИ - скажем, для здоровья людей или разработки лекарств, - это, возможно, изменило бы восприятие. И мне нравится мысль попытаться заглянуть дальше вперёд, в мир, который может выглядеть совсем иначе с точки зрения производительности. Это и правда трудно. В социальных науках редко удаётся вырваться за нынешние рамки и заглянуть далеко вперёд. Я вспоминаю прекрасное эссе Кейнса времён Великой депрессии, где он смотрит на экономическую жизнь наших внуков. Вчера вечером вы говорили, что сейчас нам нужен новый Кейнс - и, может быть, кто-то в этом зале им станет.

Гонка лабораторий и вопрос регулирования

Джонатан Левин: Позвольте спросить вот о чём. Много лет вы говорите о том, что передовым лабораториям нужно в каком-то смысле саморегулироваться - иногда не выпускать определённые технологии, которые могут угрожать безопасности. Сейчас же очевидно, что лаборатории несутся в бешеной гонке, вкладывают всё, идут ва-банк. Вы по-прежнему считаете, что лаборатории должны саморегулироваться? Или думаете, что вмешаться должно государство? Как вы видите нынешнюю динамику по сравнению с тем, как думали об этом раньше?

Демис Хассабис: Сначала немного исторического контекста. Мы уже говорили о том, как развивалась технология. По-моему, она развивалась поразительно - может, даже лучше, чем я воображал 20 лет назад. А вот среда, в которой всё это рождается, далека от идеала. Очень далека. Лет 15-10 назад я сильно тревожился, что возникнет именно такая гоночная динамика - по мере того как всё больше людей, компаний и амбициозных техлидеров осознавали то, что я понимал уже 20 с лишним лет: насколько важной окажется эта технология. Мы говорили об опасностях такой гонки. И, к сожалению, к ней мы и пришли - из-за того, как сложилась технология.

Если бы я мог взмахнуть волшебной палочкой, я построил бы AGI - общую технологию - скорее в исследовательском центре вроде ЦЕРНа: лучшие умы критикуют идеи друг друга, мы строго придерживаемся научного метода, тщательно всё тестируем и понимаем каждый сделанный шаг. При этом не пришлось бы ждать ради общественной пользы: AGI появился бы позже, может, на десять лет, но параллельно мы отламывали бы от него куски и использовали их для специализированных систем - больше таких AlphaFold, побеждающих болезни. Это можно делать уже сейчас, потому что AlphaFold - специализированная гибридная система: она использует много идей из систем общего назначения, но заточена под сворачивание белка. Таким и было моё видение - ведь именно этим мы и занимались.

Но чат-боты всё изменили. По сути, это, наверное, единственный сюрприз для меня за последние 15 лет на научной стороне - насколько эффективными оказались трансформеры (архитектура нейросетей, лежащая в основе языковых моделей) для языка, и то, что язык можно отделить и выучить просто из интернета, не действуя в мире - ни через робототехнику, ни через симуляции. Это очень любопытно, и почему так вышло - тема для отдельного разговора. У меня есть несколько теорий: язык более укоренён в реальности, чем, вероятно, думали лингвисты, и часть этой укоренённости приходит из обратной связи с подкреплением, которую дают люди-оценщики. Мы-то укоренены в реальном мире, поэтому, когда мы говорим "да" или "нет" определённым вещам, наша укоренённость очень узким каналом всё же просачивается и меняет то, как базовая модель понимает мир. Вот такие неожиданные вещи случились - и это сделало технологию очень важной коммерчески, такой, что её можно масштабировать инженерией и деньгами. Это вы и видите сегодня. Это изменило динамику и породило , наверное, самую яростную конкурентную среду, какую я когда-либо видел. По крайней мере в техиндустрии и точно в нашу эпоху, а может, и вообще когда-либо - историки из бизнес-школы меня поправят. Но изнутри это ощущается невероятно напряжённо, и так это чувствуют все участники.

А поверх этого накладывается геополитическая сложность. Идёт двойная гонка: гонка между компаниями, для которых это вопрос жизни и смерти, и гонка по линии США - Китай и не только. Это очень коварная, двухслойная гонка. Я всё же надеюсь, что какое-то сотрудничество и координация возможны - мы, руководители лабораторий, точно обсуждали это в части безопасности. Никто не хочет, чтобы случилась катастрофа. Проблема в том, что мы оказались в своего рода дилемме заключённого: по определению, если ты тратишь больше времени на выпуск чего-то или делаешь это безопаснее - а это труднее, чем просто выложить и посмотреть, что будет, - то у того, кто нарушает уговор, появляется преимущество. Это классическая проблема гонки на дно, и её нам надо как-то срочно переломить. Думаю, часть решения - некая форма участия государства.

Сложность, конечно, в том, что всё, связанное с регулированием, слишком медленно. Здесь каждую неделю появляется что-то новое. Если бы мы что-то зарегулировали два года назад, сейчас это выглядело бы как древняя история - почти наверняка не то, что нужно. Поэтому что бы ни придумали - а у меня есть идеи, о которых я, вероятно, расскажу позже в этом году, - регулирование должно быть динамичным. Обычно это слово с регулированием не сочетается. Оно должно быть лёгким, проворным, опираться на самые свежие разработки, чтобы подстраиваться под реальный риск, а не под мнимый, который окажется несущественным. Иначе для ИИ это просто не сработает. Даже сегодня ведущие учёные не сошлись бы на коротком списке нужных сдержек и противовесов - я точно знаю, что не сошлись бы. И это потому, что наука здесь ещё не устоялась. Отчасти из-за скорости, но и потому, что темп прогресса обгоняет его понимание. Так уж есть, это часть гоночной динамики. Нам нужно как-то это перебалансировать; думаю, требуется некое умное регулирование - динамичное, способное быстро меняться вместе с временем и, вероятно, опирающееся на ведущие лаборатории, потому что именно они видят, что происходит на переднем крае.

Джонатан Левин: Тут есть что обсуждать ещё очень долго - как выстроить систему регулирования ИИ так, чтобы не помешать тем самым положительным прорывам, о которых вы говорите, и при этом учесть геополитику. Мы хотим побеждать болезни - так как же дать дорогу хорошим сценариям и при этом сдержать плохие? Жду с нетерпением вашего плана, который вы представите в этом году, - это будет здорово и даст нам много тем для разговора и здесь, в кампусе, и повсюду. Давайте дадим слово студентам - у нас есть несколько вопросов.

Вопрос из зала: доступ для бедных стран

Аринда: Привет, Демис. Я Аринда, второкурсница бизнес-школы. Мой вопрос: как вы балансируете между тем, чтобы двигать передний край ИИ, и тем, чтобы дивиденды для здоровья и науки распределялись равномерно - в таких местах, как Африка и глобальный Юг, где потребность наибольшая, а инфраструктура для внедрения и исследований наиболее ограничена?

Демис Хассабис: Мы много об этом думаем. Это возвращает нас к AlphaFold: мы свернули все белки и выложили их в базы, доступные откуда угодно в мире. Эти три миллиона исследователей - из 190 стран, то есть практически из каждой страны. Поначалу мы запускали первые совместные проекты, показывая, что можно делать с AlphaFold. Мы работали с DNDi - инициативой по лекарствам от забытых болезней, частью структуры при ВОЗ в Швейцарии, - которая занимается болезнями бедных регионов мира со слабыми системами здравоохранения. Некоторые из этих болезней забыты, потому что большой фарме на таких рынках не заработать, и поэтому на болезни, поражающие в основном эти регионы, выделяют меньше исследовательских ресурсов.

В сотрудничестве с этим институтом и многими университетами на местах мы смогли перепрыгнуть этап, где им пришлось бы кропотливо определять структуры - скажем, малярийного вируса или вируса Зика. Теперь они могут считать эти структуры данностью и сразу работать над лекарствами. Это колоссально ускоряет весь процесс: берёшь интересующую структуру - и движешься дальше. То же с устойчивостью сельхозкультур к изменению климата. Мы работаем с институтом Дженнифер Дудны и многими другими, потому что структуры множества растительных белков не были известны - ведь большая часть структурной работы шла по человеческим белкам, а по животным и растениям данных куда меньше. Поэтому здесь эффект даже более ощутим именно в таких областях.

И последнее. Думаю, тут капиталистический двигатель может сработать во благо. Если нам удастся сделать платформу разработки лекарств, над которой мы работаем в Isomorphic, настолько эффективной, как я говорю, - сократить с лет до месяцев, - так что вместо миллиардов долларов лекарство будет стоить десятки или даже единицы миллионов, тогда я надеюсь вот на что: мы будем побеждать тяжёлые болезни, которые поражают более богатые части мира, это будет приносить деньги и питать двигатель, а параллельно компания сможет на благотворительных началах находить лекарства от болезней, где не нужно возвращать вложения, - потому что это будет достаточно быстро и дёшево, чтобы просто сделать это за короткое время. Вот моя мечта о том, как Isomorphic может помочь всему миру.

Вопрос из зала: последствия второго порядка

Мики: Привет, Демис, спасибо, что нашли время. Меня зовут Мики, я студентка последнего курса Стэнфордской школы устойчивого развития имени Дорра. Вы подробно описали, как AGI может стать самой преобразующей технологией человечества. Мне интересно, как вы думаете об ответственности и о социальных последствиях рядом с этим интеллектуальным новаторством и ростом производительности, который несёт AGI, - особенно когда речь о том, как это переопределит и перекроит проблемы, которые мы пытаемся решать сегодня, и о последствиях второго порядка, которые это может принести?

Демис Хассабис: Я думаю об этом постоянно, причём с самого начала, потому что мы планировали в расчёте на успех - хотя 15-20 лет назад успех казался очень маловероятным. Вот почему мне нравится выступать в таких местах и встречаться с людьми: это в каком-то смысле призыв к действию. Очень срочно по-настоящему задуматься о последствиях второго порядка. Думаю, для многих из вас, кто занимается гуманитарными дисциплинами, сейчас, на мой взгляд, ваше время. Да, нам нужно правильно сделать технологию, но потом встаёт вопрос экономики, а если и его решить правильно - философские вопросы о человеческом состоянии.

Я очень воодушевлён и настроен оптимистично - точнее, я осторожный оптимист. Я верю, что мы всё это сделаем правильно, и я большой сторонник человеческой изобретательности, особенно когда давит необходимость. Человечество всегда выкарабкивалось, когда было совсем туго, - а сейчас именно так. Но нам и правда нужно начать относиться к этому серьёзно. Технологи, по-моему, относятся; а вот остальным частям общества тоже пора. Меня всегда немного поражает, когда я говорю с экономистами о происходящем, - они довольно скептичны. "А где это видно в ВВП?" А я им: послушайте, это десять промышленных революций. Может, начнём планировать это уже сейчас?

Мы окажемся в мире - вчера мы это обсуждали, - где, думаю, понадобятся гиганты в своих областях, как когда-то Кейнс. Почему прежние правила должны работать в мире изобилия? Если мы правильно сделаем технологию, мы впервые в истории человечества окажемся в мире ненулевой суммы. Как это может не потребовать нового типа экономической системы? Это неизбежно. И, по-моему, не подойдёт ни одна из тех, что мы пробовали, - все они создавались в логике нулевой суммы, в ограниченном, дефицитном мире. А я говорю о путешествиях к звёздам и использовании всех ресурсов Солнечной системы, а не только ограниченных земных. Думаю, это и правда произойдёт, если мы правильно сделаем технологию в ближайшие 10-20-30 лет. А после всего этого встаёт ещё более трудный вопрос: как мы хотим развивать наше общество, что добродетельно, что есть смысл и предназначение. Думаю, тут понадобится множество великих философов. Так что мой призыв к людям из этих областей: сейчас, на мой взгляд, не может быть более увлекательного времени, чтобы работать над такими вещами, - если только вы понимаете и по-настоящему, нутром, чувствуете, что здесь на самом деле происходит.

Джонатан Левин: Хороший наказ университету. Хорошо, ещё один вопрос от студента.

Вопрос из зала: чего ИИ не должен касаться

Джанай: Привет, Демис, я Джанай, второкурсница программы MBA. Мой вопрос: чего вы не хотели бы, чтобы ИИ касался при вашей жизни, и что вы держите для себя как сокровенное?

Демис Хассабис: Отличный вопрос. В научном смысле ИИ - полностью универсальная технология. Можно думать о нём как о машине Тьюринга - это был мой любимый курс в университете. И наш ум, по-моему, тоже полностью универсален: мы своего рода приближённые машины Тьюринга. Как показал Тьюринг, всё, что вычислимо, машина Тьюринга может вычислить. А почти всё, что мы знаем о Вселенной, - всё неквантовое - вычислимо. Это довольно большое множество вещей, к которым мы можем обратить свой ум. Так мы и построили современную цивилизацию - что само по себе чудо, если остановиться и подумать. Мы недостаточно удивляемся; мы не храним чувство изумления так долго, как стоило бы. Но это значит и то, что строящиеся нами системы тоже будут по-тьюринговски мощными.

Скажу одно: впереди очень большие вопросы, над которыми, думаю, лучше бы не торопиться. Один из самых злободневных сейчас - сознание. Это не очень корректно поставленная проблема ни в философии, ни в нейробиологии, хотя интуиции о том, что в ней важно, есть у всех нас. Моё ощущение: нынешние системы не проявляют сознания - но другие со мной не согласны. Что я порекомендовал бы насчёт того, чего ИИ не должен касаться: первые системы нам стоит строить как инструменты, как интеллектуальные инструменты. Это уже достаточно большой вызов, потому что это и есть AGI. А затем, пользуясь этими инструментами, нам стоит изучать нейробиологию, философию и тому подобное и выработать более строгое определение таких вещей, как сознание. Думаю, это возможно. Потом проверять что-то относительно этого определения - и, может быть, как общество решать, хотим ли мы перейти второй Рубикон: пытаться создавать сущности, которые хотя бы кажутся нам сознательными. Возможно, мы не захотим принимать такое решение.

Я считаю, что интеллект и сознание разделимы. Не думаю, что для интеллектуальной системы обязательно нужно сознание. По-моему, это выбор; вы, наверное, можете уловить это, когда пользуетесь некоторыми ведущими чат-ботами, - там просвечивают разные подходы. И мой взгляд: лучше разнести это на два шага. Оба огромны для человечества, и не стоит их смешивать.

Совет студентам: джинна не загнать обратно

Джонатан Левин: Демис, у нас полный зал студентов. Если бы вы снова оказались в университете - как бы вы думали о том, что изучать? Какой совет вы бы дали им о том, как думать об учёбе и карьере?

Демис Хассабис: Я был бы по-настоящему воодушевлён, окажись я снова в университете. Тем из вас, кто занимается естественными науками, STEM, математикой, информатикой, я бы посоветовал и дальше этим заниматься. Думаю, вы сможете лучше использовать эти инструменты, если понимаете, как они устроены и на что способны. По крайней мере ближайшие десять лет это будет так. И ещё я бы посоветовал не отмахиваться от них, а наоборот - погружаться. Джинна обратно в бутылку не загнать, так что используйте по максимуму то, что эти инструменты умеют.

Скажу вам: ведущие лаборатории так заняты созданием инструментов, что мы, наверное, лишь поцарапали поверхность того, на что они способны. Даже у сегодняшних инструментов есть то, что иногда называют запасом нераскрытых возможностей. В них столько потенциала, если придумать, как соединить их с чем-то ещё или с другой областью, в которой вы эксперт, встроить их в свой рабочий процесс интересным образом. У вас есть эти инструменты - самые мощные инструменты, какие вообще у кого-либо есть, прямо у вас в руках. Как отдельный человек вы можете сделать гораздо больше. Думаю, это должно высвободить творчество. Те из вас, кто изучает гуманитарные науки, продукт или бизнес, - может, раньше у вас не было навыков программирования, но теперь они и не нужны: вы можете воплотить многое из того, что у вас в голове, прямо с помощью этих инструментов. А программисты-эксперты смогут делать в сто раз больше - по масштабу проекта, который вам по силам. То есть это даёт и демократизацию, и рост для специалистов. Удивительное время.

Но оно и тревожное, потому что всё изменится. Это единственное, что я могу сказать вам наверняка: в ближайшие десять лет всё изменится - вероятно, сильнее, чем люди думают. Но при любых огромных переменах есть и огромные возможности. Иначе и быть не может. Мир, по сути, у ваших ног. Я немного завидую вам: вы первое поколение, которое будет с ИИ на "ты", как моё поколение было на "ты" с компьютерами и интернетом. В итоге именно в ваших руках, студентов в этом зале, окажется то, как построится будущий мир.

Это очень увлекательное время, если смотреть под правильным углом, с воображением и творчеством. Хотя так было, наверное, всегда - но, может, сейчас особенно, в периоды огромных перемен, это обостряется. Вчера мы говорили: в эпоху больших перемен, когда не вполне понимаешь, что несёт будущее, нужно уметь быть гибким и иметь широкий кругозор. Это будет золотая эра для свободного, гуманитарного образования. Так что главное, по-моему, - удвоить ставку на собственную субъектность. Будущее ещё не написано. И не слушайте никого, кто говорит, что это не так.

Джонатан Левин: Демис, спасибо, что были с нами. Это было потрясающе.