Все везде и сразу. Почему нейросети вызывают столько паники и как нам сосуществовать
Директор «Яндекса» по стратегическому маркетингу Андрей Себрант и замдиректора Центра компетенций НТИ «Технологии доверенного взаимодействия» Руслан Пермяков предлагают свои сценарии жизни с ИИ — при политике развития и сдерживания.
По прогнозам Statista, мировой рынок ПО на основе ИИ достигнет $305,9 млрд в этом году. На 2030 год прогнозы разнятся: некоторые аналитики ожидают увеличения рынка вдвое — до $700 млрд, другие прогнозируют более $1 трлн. Российский рынок ИИ-решений тоже не будет отставать: в правительстве прогнозируют объем этого рынка в 1 трлн руб. к 2025 году с темпом роста на 20–40% в год.
За огромными суммами стоит столь же огромная популярность искусственного интеллекта, которого становится все больше в жизни человека. Компания Salesforce опросила тысячи жителей США, Великобритании, Индии и Австралии: половина из них уже знакома с генеративным ИИ, а больше трети респондентов ежедневно пользуются этой технологией. Это логично: возможности нейросетей в последние годы заметно выросли, они могут обучать иностранным языкам, редактировать тексты, помогать в программировании и многое другое.
О потенциальной опасности технологии для человечества говорят не первое десятилетие, но сейчас вопрос стоит особенно остро. Россияне боятся, что нейросети лишат их рабочих мест. Такие опасения высказали 58% опрошенных сервисом GeekBrains. В Роспотребнадзоре беспокоятся, что за последствия применения ИИ никто не несет ответственности. А Илон Маск на днях заявил, что через пять лет нейросеть превзойдет человека с точки зрения разума и тогда ситуация будет «нестабильной или странной». Где истина — нужно ли следовать за популярностью, развивать нейросети такими же стремительными темпами или пора взять технологию на поводок?
На мой взгляд, конечно же, стоит развивать, и с той активностью, на которую хватает ресурсов. Судя по текущим инвестициям, с ресурсами дела обстоят неплохо. Научно-технологический прогресс всегда жизнь улучшал и улучшает: делал и делает ее длиннее, здоровее, интереснее, комфортнее.
Тормозить прогресс — это мешать людям лучше жить и лишать их выбора. Мне это представляется плохим решением.
Насчет отсутствия ответственности — это модная подмена понятий. Технология, любая, и не должна нести ответственности. А вот за последствия ее применения ответственность всегда несет применяющий ее человек (если не физическое лицо, то юридическое).
Рассмотрим простейший случай нынче модных генеративных моделей. Современный ИИ сам по себе инициативой не обладает по определению: чтобы на выходе модели что-то получилось, кто-то должен дать ей задание — тот самый промт. Дальнейшее применение сгенерированного результата — к примеру, его публикация, или использование сгенерированного кода в продукте, или принятие решения на основе ответа модели — всегда действие человека. Ему и нести ответственность, если в результате случилось нечто, ответственность подразумевающее.
Государства и экспертов в основном пугает темп происходящего, а не сам факт. На развитие технологий всегда приходилось реагировать, в этом нет ничего нового. Уже стандартным стал пример появления автомобилей, скорость которых сначала просто резко ограничили, а потом долго создавали новые регуляторные сущности: правила дорожного движения, дорожные знаки, разметку, требования к безопасности самих автомобилей, права на управление ими. И спустя несколько десятков лет создали тот комплекс регуляторных механизмов, который до сих пор работает, потихоньку обновляясь. И позволяет автопрому неплохо жить и развиваться.
Сейчас все понимают, что нет этих десятков лет на изучение продуктов на основе ИИ и неспешную выработку правил, придумывание новых принципов и параметров регулирования. Количество автомобилей росло медленно, а ИИ доступен уже миллиардам людей. Но и резкий запрет имеет свои опасности, можно национальную экономику ненароком притормозить. В итоге возникают страхи и некоторая суета — не на бытовом уровне, а на уровне регуляторов, столкнувшихся с вызовом, с которым раньше никто не сталкивался.
Как суметь ускорить нормотворчество — пока не придумали, поэтому используют привычные точечные ограничения. Это нормальная быстрая реакция, времянка, пока нет по-настоящему хорошего решения. При этом регуляторы прекрасно понимают, что новая технология требует новых подходов и, возможно, сущностей (как те самые дорожные знаки). Беда в том, что удачные новации не придумываются по команде — приходится ждать. Может, когда-то как раз ИИ и придумает.
Мне хочется верить, что на горизонте года — трех лет возникнут принципы регулирования, специфичные для ИИ, на основе новых идей, а не поспешных попыток как-то применить уже известные подходы. Но именно потому, что пока нет этих новых идей и сущностей, невозможно предсказать детали.
Риски всегда связаны с людьми, потому что только люди принимают решения (в том числе и об использовании технологий). ИИ — штука мощная, мало кто в действительности представляет насколько. Сатья Наделла [CEO Microsoft] неслучайно сравнивает происходящее с изобретением парового двигателя. Он-то отлично понимает, что аналог перехода от использования природных сил ко всей энергетике, которая нас нынче окружает, только предстоит пережить.
Сейчас не то что цветочки, сейчас семечко только проклюнулось, а цветочки и ягодки еще впереди.
А все мощное, как учит нас история, немедленно начинают приспосабливать не только для улучшения жизни, но и в целях не самых благородных, а подчас и преступных.
Развитие нейросетей стоит сдерживать до тех пор, пока мы не разберемся с этическими вопросами применения ИИ. Здесь есть два уровня:
1. Очевидный, когда ИИ в некой неоптический ситуации должен решать, кого убить (если варианта не убивать нет).
2. Неочевидный, когда ИИ принимает решения, приносящие негативные последствия в будущем, но сейчас улучшающие ситуацию.
Сейчас, насколько мне известно, проработкой спорных этических вопросов вплотную никто не занимается. Несколько лет назад Массачусетский технологический университет проводил опрос на тему ИИ и этики, было приведено множество ситуаций. Например, кого должен в безвыходной ситуации сбить беспилотный автомобиль: престарелую женщину или мать с грудным ребенком? [[Результаты|Люди предпочитали спасать людей, а не животных, молодых, а не старых (но есть зависимость от страны) и щадить большие группы, принося в жертву маленькие. Чаще всего выбирали спасти коляску с малышом, детей обоих полов, беременных и врачей. Реже всего — кошек, собак, преступников, пожилых и бездомных.]] исследования вызвали негативную реакцию в обществе. Это очевидный уровень этических вопросов.
Неочевидный уровень: к примеру, ИИ из медицинской организации может решить опубликовать в сети данные заболевшего, чтобы найти для него доноров (в том числе родственников). Но при этом, возможно, будет раскрыта тайна усыновления этого человека. Нейросеть таким образом помогает ему вылечиться прямо сейчас, но как раскрытие такой информации отразится на будущем человека и его семьи — неясно.
Решить подобные дилеммы компьютер (даже квантовый) не поможет. Человечеству надо разбираться в этических вопросах самому, а на это может уйти много времени, вплоть до нескольких десятилетий. Без проработки этики ИИ можно дать свободу лишь там, где человек не пострадает физически, юридически и нравственно. Но, к сожалению, мы с этим тоже не разобрались. В прошлом году, к примеру, в аэропорту Домодедово камера видеонаблюдения с функцией распознавания лиц обнаружила сходство пассажира, ученого из Ярославля, с серийным убийцей [мужчине предъявили обвинение в убийстве 20-летней давности. — Прим. SM]. При этом у него алиби — научная экспедиция с коллегами, которые характеризуют его как порядочного человека и семьянина.
Предположим, что мы находимся на развилке: сдерживать или нет? В первом случае есть риск быстро оказаться на [[стадии разочарования|Речь о цикле хайпа вокруг технологии, методологии исследовательской компании Gartner. Долина разочарований — третья стадия развития технологии, за которой следуют еще две: стабильность с устойчивым ростом и затем плато продуктивности (зрелость). Сейчас мы находимся на втором этапе — «пик чрезмерных ожиданий», следующим сразу после релиза технологии.]] и остаться в ней на очень долгое время: рынок сильно просядет, в лучшем случае на 50%, не будет новых заказов. То, что уже сейчас работает, останется, но без обновлений. Соответственно, инвестиции в ИИ-компании тоже серьезно просядут. Плюс при политике сдерживания, на мой взгляд, передовые разработки будут охраняться как государственные тайны и попадать на рынок существенно позднее, то есть произойдет трансфер ИИ в военную область. Последствия — национализация технологий (как в атомной сфере) и гонка вооружений.
Во втором варианте «развивать» есть риск полного отказа от технологий (как, например, когда-то отказались от евгеники) после очень плохого события. Сейчас его сложно представить, но это может быть вариант по типу Skynet из фильма «Терминатор» [противооборонный ИИ, который обрел сознание и решил уничтожить угрожающее ему человечество. — Прим. SM]. Последствия, конечно, будут отличаться от кино, но сам прецедент может оказать сильное влияние на технологию. Негативное событие может быть и другим. Например, ИИ повсеместно начнет отключать людей от систем жизнеобеспечения в больницах, поскольку прогноз по выздоровлению будет отрицательным и тратить ресурсы нецелесообразно, или умышленно вводить смертельные дозы на химиотерапии по тем же причинам. Фантазировать можно долго.
Также при политике развития возможна трансформация мира в цифровую тюрьму с сегрегацией на основе цифровых моделей. Как это может выглядеть? Люди будут обязаны выбирать профессию по результатам анализа ДНК, которые обработал ИИ. В случае отказа у них будет снижаться рейтинг и, соответственно, пропадут какие-то возможности, привилегии.
Вероятнее всего первый сценарий: за следующие три года мы пройдем стадию хайпа по кривой развития технологий и начнем спускаться в «долину разочарований». А этические вопросы, скорее всего, в ближайшее время системно сформулированы не будут.
Так или иначе, разработчиков не начнут наказывать за неудачные последствия решений, которые возникли с участием ИИ. Таким же образом сейчас авторы ОС не привлекаются к ответственности в случае серьезных инцидентов. Ответственность лежит на собственнике системы, то есть на пользователе. Разработчик скидывает ответственность на владельца купленной у него системы, а собственник перекидывает ответственность на клиента. Одна из главных задач — разрешить этот вопрос.
Скорее всего, при политике сдерживания будет наращиваться мощь языковых моделей, которые лежат в основе чат-ботов. Наиболее удачные решения в области ИИ, включая генеративные нейросети, попадут под грифы секретности соответствующих национальных министерств обороны.
Еще один, менее вероятный вариант: появится отраслевое или картельное решение ведущих игроков рынка об ограничении возможностей искусственного интеллекта. В первую очередь оно коснется проектов, генерирующих дипфейки. Систем типа ChatGPT тоже может коснуться. В итоговую продукцию будут внедрять специальные метки, которые позволяют быстро и просто понять, что вы имеете дело с продуктом ИИ.
Похожая ситуация была в 1990-х в индустрии принтеров, когда мы подошли вплотную к возможности печатать деньги дома. Сейчас все высококачественные принтеры ставят метки, которые легкоразличимы банковскими системами.
.png)
Полина Садовникова и Мария Бессмертная воспользовались этим поводом, чтобы пересмотреть свои любимые вампирские саги в строго рабочее время. Пройдите его и узнайте, какой вы вампир.
.jpg)
