Эксперт по искусственному интеллекту Минздрава РФ – возможно ли в реальной жизни восстание машин
Больше всего россиян беспокоит наступление нейросетей, таковы последние данные “Национального индекса тревожностей” – исследования, проведенного на основе анализа СМИ и соцсетей. Но почему так боятся машинного интеллекта? Возможно ли в реальной жизни восстание машин?
Сообщить об опечатке
Знаете, мне эта ситуация напоминает первый показ синематографа. Помните, классические кадры, когда показали подъезжающий поезд, зрители в страхе, с криками выбегали из зала. Им казалось, что поезд несется на них. Они боялись, что он их раздавит. Сегодня технологии искусственного интеллекта (ИИ) в своих возможностях имитировать человеческие способности действительно вплотную подошли к тому, что, кажется, еще чуть-чуть и они заменят любую из наших когнитивных функций, – возможность заниматься творчеством, писать тексты, картины, решать сложнейшие задачи. Большинство людей не обладают специальными знаниями, но они видят, что на их глазах растет что-то небывалое и неизвестное. И поэтому им страшно. В итоге срабатывает простая реакция на любую неизвестность: что нужно делать, когда увидели тигра в пещере? Бежать! Вот так и здесь. Новые технологии у большинства вызывают страх, непонимание. Сейчас много дискуссий в непрофессиональной среде, которые ведутся не о реальных угрозах искусственного интеллекта, а о галлюцинациях, страхах, которые люди сами себе придумали.
Например, сейчас всерьез обсуждается такая гипотеза. Врачи нам больше не нужны, ведь нейросеть ChatGPT так хорошо общается с пациентом, так хорошо ставит диагнозы, что можно забыть про докторов. Но это полный бред, потому что этот чат хорошо имитирует только самую распространенную историю, в первой коммуникации с пациентом. Никакая самая умная нейросеть сегодня не способна заменить врача. Быть отличным помощником, – да, но работать за доктора она не может.
В том что касается искусственного интеллекта, мы во многом стали заложниками терминологии, наделив технологии человеческими свойствами. Ведь интеллект это то, что присуще только человеку…
Сначала в научной литературе, а потом и в жизни укоренился неудачный перевод понятия artificial intelligence, который я бы не переводил дословно как “искусственный интеллект”. Ведь аrtificial – это не только искусственный, а intelligence – не только интеллект. Но понятие прижилось и играет с нами злую шутку. Люди посвященные хорошо понимают, что за ним стоит, а непосвященные слышат только “искусственный”, а значит, созданный не богом, не природой. Эксперты в последнее время говорят, что использовали бы мы термин “машинное обучение”, и это не вызывало бы такой нехорошей коннотации. Нейросети – это машинное обучение. ChatGPT – это машинное обучение. Зайдите в поисковик, напишите “искусственный интеллект”, и вам тут же выпадет. “ИИ изобрел”, “ИИ предложил”, “ИИ ответил”. То есть создана некая человекоподобная сущность. Но давайте заменим это понятие на другой созданный человеком продукт. Да хотя бы на “чайник”. И получится “чайник придумал”, “чайник подсказал”, “чайник меня успокоил”. Любой скажет, ну бред какой-то. Но с ИИ так не работает. Виной всему злоупотребление термином. Мы с вами живем в мире постправды. Если что-то в широко распространенной и укоренившейся информации подано некорректно, оно некорректно влияет и на сознание большинства людей.
Искусственный интеллект – это технология, которая позволяет создавать умные программы, которые в своей работе очень похожи на работу нашего мозга. Причем технология, которая способна обучаться в процессе работы. Но она не заменяет человека.
Причем, эти технологии будут развиваться все быстрее. И иллюзия, что мы как будто бы имеем дело с человеком, будет только нарастать.
Но эти системы никогда не начнут принимать решение за человека, они не будут ему вредить. Потому что любая система разрабатывается и контролируется людьми. Это всего лишь инструмент в руках самого человека. Приведу пусть примитивный, но наглядный пример. Мы можем сказать, что сегодня доля убийств, совершаемых кухонными ножами довольно высока. Но это не значит, что ножи убивают людей и ножи надо запретить. Да, какой-то негативный эффект от новой технологии будет. Но пользы от нее в миллионы раз больше. Другое дело, что нам нужно успевать за развитием ИИ и совершенствовать законодательство. Я уверен, что пока, например, нельзя использовать ИИ в автоматическом управлении в реанимации. Не дай бог ошибка. А любой ИИ-продукт ошибается, не надо забывать.
Это значит, где-то искусственный интеллект нужно пока ограничивать, а где-то применять строго под контролем людей. Но говорить о том, что машинный разум самого человека заменит, цивилизация наша закончится, – это все ерунда полная. Когда-то же мы освоили конвейеры и поняли, что они нам во благо, и никто сейчас не захочет обратно возвращаться к ручному труду. Сейчас развивается управляемый транспорт, но это не значит, что однажды машины сами по себе взбунтуются и поедут давить людей на улицах. Или что водители навсегда исчезнут как профессия.
Конечно, Илон Маск со своим заявлением об опасности ИИ сильно подогрел общие страхи.
Но Маск – великий предприниматель и великий провокатор нашего времени, этакий Остап Бендер. Ведь что сделал Маск. Внимательно следим за руками! Он был одним из акционеров основателей компании OpenAI, которая добилась впечатляющих технологических успехов в создании генеративной сети ChatGPT. Но он вышел из этой компании как раз незадолго до ее грандиозного успеха. Вот незадача. Осознав успех своей бывшей компании, он делает заявление об угрозе ИИ, что надо остановить все исследования в этой сфере. Но одновременно с этим Маск создает новую компанию X.AI., которая, по его задумке должна превзойти OpenAI в развитии нейросетей. Гениальный маркетинговый ход! Но как минимум это неэтично, а как максимум – сродни мошенничеству.
Сегодня многие задаются вопросом, а что дальше? Что последует за ИИ?
Есть такой термин технологическая сингулярность. Это точка в будущем, за которой меняются все законы мироздания. Как сингулярность в теории черных дыр, так и в ИИ есть некий горизонт событий, за которым наступает нечто непредсказуемое.
На мой взгляд, в ближайшие несколько десятилетий достижение этой технологической сингулярности невозможно. Мы до сих пор не умеем создавать полностью думающие системы, и системы способные обучаться самостоятельно неизвестным навыкам. У нас очень ограничены технологические возможности. И еще важный момент: ИИ остановится на каком-то этапе своего развития, он не будет умнеть бесконечно. Не потому, что технологии не позволяют, а потому что для того, чтобы создавать современные системы машинного обучения, нужны колоссальные объемы электричества и колоссальный объем памяти и чипов. Для того, чтобы рост продолжался, нужна революция в аппаратном обеспечении, а это пока невозможно. Одновременно с этим люди начнут понимать, что их страхи были необоснованы, а в чем-то и ожидания от ИИ завышены. То есть произойдет спокойное принятие искусственного интеллекта, все поймут, что он безопасен, полезен и эффективен. И главное, его можно контролировать.
Александр Гусев
эксперт по искусственному интеллекту ЦНИИОИЗ Минздрава России