Игорь Шнуренко – Демон внутри. Анатомия искусственного интеллекта (страница 57)
В принципе, если вся дофаминная система работает как у людей, так и у крыс, понятно, что на ее воспроизводстве мы вряд ли получим уровень интеллекта больший, чем у крысы. Если учесть, что по производительности искусственная нейросеть сейчас как раз приближается к мозгу крысы, нужно отдавать себе отчет, что именно об интеллекте, сравнимом с интеллектом крыс, мы говорим сегодня как о потолке достижений ИИ в обозримом будущем.
Очевидно, человеческая мотивация работает не только через подкрепление от некоего гормона. Ведь многое человек делает, не получая удовольствия, а, наоборот, преодолевая боль. Нейробиологам стоило бы изучать процессы в мозгу аскетов, подвижников, героев, йогов, чтобы разобраться в этом.
Эволюция миллионы лет отбирала и закрепляла наши ассоциативные цепочки, причем ставкой была жизнь и смерть организма или даже целого вида. Может быть, организм в какие-то ключевые, «толстовские моменты» осознает важность выбора — и действует, активируя связи, не приносящие ему никакой награды, невзирая ни на какую боль и неудобства? Так бойцы на войне делают операции на себе, чуть не теряя от боли сознание, или герой закрывает собою вражеский дзот ради выживания своего народа.
Сильный ИИ имеет шанс появиться, когда мы будем знать о человеке куда больше, чем сейчас. Художественная литература и искусство дадут нам для этого изучения куда больше пищи, чем биологические эксперименты. Ведь человеческий мозг может оказаться куда более удивительным творением, чем принято думать в наши рационалистические времена. Как говорил Гамлет:
«There are more things in heaven and earth, Horatio, than are dreamt of in your philosophy» — «Есть многое на свете, друг Горацио, что и не снилось нашим мудрецам»...
Вот что писала о матрешке человеческого мозга, в которой содержится вся Вселенная, американская поэтесса XIX века Эмили Дикинсон (даю свой неуклюжий перевод):
Ум — шире — неба
Сопоставь:
Одно в другое входит
Легко — с тобой — заходит
ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ НАТКНУЛСЯ НА СМЫСЛОВОЙ БАРЬЕР
Еще в 2012 году основатель «Фейсбука» Марк Цукерберг ставил как личную цель «кодировать каждый день». Следующие несколько лет, однако, ему было не до кодирования: компания на полную катушку монетизировала тягу людей к общению в соцсети. Они создали глобальный мессенджер, крупнейший поисковик, крупнейшую рекламную империю, активно занялись виртуальной и дополненной реальностью, дронами, контролем над человеческим восприятием и сознанием и даже попытались монополизировать не что-нибудь, а мировой рынок новостей. Вот так просто, бортанув ведущие мировые медийные империи и влиятельные американские газеты типа «Нью-Йорк Таймс». Ведь для обычного потребителя отъезд приятеля на дачу такая же новость, как и землетрясение в Зимбабве, если не большая — и ««Фейсбук»» этим воспользовался, быстренько создав свой News Feed.
С тех пор «Нью-Йорк Таймс» занимает откровенно враждебную позицию по отношению к Цукербергу и его детищу: практически в каждом номере газеты содержится что-то критическое о ««Фейсбуке»». Это и понятно: никто не хочет умирать, а в газетно-журнальной отрасли давно идет игра на выживание. Вторую влиятельнейшую американскую газету, «Вашингтон пост», спас основатель «Амазона» Джефф Безос, купив ее с потрохами. Это была, конечно, не благотворительность: Безос готовится перенести свой основной офис, где будет работать 25 тысяч сотрудников, в пригород американской столицы. Показательно, что рядом расположен Пентагон. Безос любит, когда его освобождают от налогов, так что ведущая городская и одновременно федеральная газета ему еще отработает.
Тем временем Цукерберг поставил перед своими учеными задачу к 2025 году создать искусственный интеллект, который бы превосходил человека зрением, слухом, речью и общими когнитивными способностями. То есть, по сути, Цукерберг хочет создать «сильный» ИИ — машину, которая «превзойдет человека».
Шейн Легг, главный исследователь лаборатории «Гугла» DeepMind, о которой я уже не раз писал, предсказал, что к середине 2020-х искусственный интеллект превзойдет человека. Конечно, подобных предсказаний делалось уже немало, и дальше в этой книге я разберу прогнозы некоторых самых известных технооптимистов, но одно дело когда в хрустальный шар глядят философы и даже футурологи, и совсем другое — когда мегакорпорация с десятками тысяч сотрудников, тысячами работающих на нее ученых, миллиардными расходами на исследования, записывает себе в бизнес-план «создать машину, во всех отношениях превосходящую человека».
На самом деле «Фейсбук»» и есть такая мощная машина, коллективный разум этой компании создал модель, которая выкачивает из человечества гигантские ресурсы, чтобы достичь своей цели, и эта цель, конечно, заключается не в том, чтобы способствовать расцвету культур и наук и облагодетельствовать народы.
В середине 2010-х годов между крупнейшими глобальными технологическими компаниями (их не больше десятка) началась гонка за то, чтобы стать The Company, единственной корпорацией, которая очень скоро может подчинить весь мир. Сильный ИИ — лишь средство в достижении этой цели.
Впрочем, даже самые амбициозные предприниматели еще не научились менять законы природы, и похоже, задача эта может оказаться гораздо сложнее, чем они полагают.
Сегодняшним агентам ИИ не хватает понимания смысла или сознания, то есть того, что является сутью человеческого разума. «Интересно, сможет ли ИИ вообще когда-нибудь преодолеть смысловой барьер», сказал как-то математик и философ Джанкарло Рота. «Вот в чем для меня главный вопрос».
Есть известный пример с выражением «сосиска в тесте», которое система глубокого машинного обучения поймёт как мясной продукт, вставленный тестю в одно место.
Мелани Митчелл, профессор компьютерной науки в университете Портленда, приводит несколько других примеров:
«Фразу «The bareheaded man needed a hat» программа распознавания речи в моем телефоне транскрибирует как «The bear headed man needed a hat» (вместо «лысому мужчине нужна шляпа» получается «медведеголовому мужчине нужна шляпа» —
Программы, которые «читают» документы и отвечают на вопросы о них, можно побудить дать тотально неверные ответы, просто вставив в документы маленькие кусочки текста, не относящегося к делу. Много говорится об успехах ИИ в распознавании изображений и объектов, но даже сейчас их можно поставить в тупик изменениями освещения, небольшим количеством «шума» и другими подобными трюками, которые вообще никак не влияют на соответствующие способности человека.
Журнал Computer Science опубликовал в августе 2018 года одно исследование, не без иронии озаглавленное «Слон в комнате». Ученые показали, что если мы вставим небольшое изображение не относящегося к теме объекта куда-нибудь в уголок большого изображения — например, «слона» в изображение гостиной — это настолько странно повлияет на искусственные нейросети и алгоритмы глубокого обучения, что на выходе ИИ отнесет к неправильным категориям многие объекты на этой картинке.
Программы, которые уверенно выигрывали у человека в компьютерных или видеоиграх, с треском начинали проигрывать, стоили изменить в игре, например, цвет фона или немного переместить игроков на начальных позициях.
В целом эти примеры показывают, что лучшие ИИ могут подвести, если ситуации, с которыми они сталкиваются, хоть немного отличаются от тех, на которых их обучали. При этом ошибка ошибке рознь: одно дело проигрыш в игре Counterstrike, а другое — если ИИ в аэропорту не пропустит вас на посадку и вместо этого вызовет полицейских, приняв за преступника. Или еще хуже: натренированный на фейковых дорогах ИИ в беспилотном такси из-за необычного освещения не заметит, как вы прямо перед ним переходите дорогу.
А ведь в алгоритмы, которые и так-то не очень надежны, могут вмешаться и хакеры. Хакер может внести в изображение или текст те самые маленькие погрешности, которые приведут к большим ошибкам, а те, в свою очередь, могут иметь катастрофические последствия — например, в системах управления энергообеспечением или уличным движением мегаполиса.
Многочисленные исследования уже показали, как хакеры могут обдурить систему распознавания лиц минимальными изменениями, или, например, наклеить на знак «стоп» небольшие не внушающие подозрения стикеры, в результате чего система управления беспилотным автомобилем примет его за другой дорожный знак, или передать аудиосигнал, которые сольется с фоновой музыкой в доме человека, но его ИИ-помощник Алекса или Сири вычленят этот сигнал и сочтут его за команду —а команда может быть любая, например, выключить весь свет в доме, запереть его или, наоборот, в определенный час открыть запертую дверь.
В СМИ много хайпа о невероятных возможностях ИИ, но если вы пообщаетесь непосредственно с разработчиками, которые занимаются глубоким обучением, то они показывают куда меньше энтузиазма в отношении нынешнего прогресса в отрасли.