Ему всего годик, но он пишет научные диссертации, рисует как известный художник-экспрессионист, сочиняет музыку и даже разгадывает мысли. Специалисты опасаются, что в будущем у него могут развиться и плохие наклонности: он научится обманывать, подделывать голоса... Вы, конечно, догадались, что я – про ChatGPT – самую яркую программу, благодаря которой широкая общественность год назад впервые познакомилось с явлением искусственного интеллекта (ИИ). «Малыш» растет не по дням, а по часам, а мы зачастую теряемся в догадках: кто он на самом деле, на что способен, и как человеку, взяв его в свои помощники, в итоге не потерять себя? На днях в Москве состоялась встреча в Научном кафе, посвященная взаимоотношениям человека и искусственного разума.
Соорганизаторы встречи – главный редактор научного журнала Любовь Стрельникова и глава пресс-службы химфака МГУ им. М.В. Ломоносова Сергей Ивашко пригласили для разговора ведущих научных экспертов в области искусственного интеллекта. Это заведующий лабораторией нейросетевых технологий МФТИ Станислав Ашманов, завкафедрой философского факультета МГУ Елена Брызгалина, ассистент кафедры алгоритмических языков кафедры вычислительной математики и кибернетики МГУ Наталья Ефремова, профессор ВМК МГУ Наталья Лукашевич и управляющий директор, начальник управления экспериментальных систем машинного обучения дивизиона общих сервисов одного из банков Сергей Марков.
ИИ – что это?
Своеобразный день рождения ChatGPT (от англ. Generative Pre-trained Transformer - «генеративный предварительно обученный трансформер») стал поводом поговорить об искусственном интеллекте вообще. Этому понятию уже без малого 70 лет, и с ним связаны не только всем известный генератор текстов, но и «умный» пылесос, и станок с ЧПУ управлением, и много чего еще.
Справка «МК». Термин «искусственный интеллект» ввел в 1956 году американский информатик из Стэнфорда Джон Маккарти.
– Можно ли назвать искусственный интеллект простым алгоритмом, программой, или это нечто более сложное? – задала первую тему для обсуждения Любовь Стрельникова.
По словам Натальи Лукашевич, первые алгоритмы для машинного перевода, действительно, создавались при помощи алгоритмов. Но сейчас одного простого перевода мало, программы, с которыми мы сейчас имеем дело, должны не просто переводить, но еще и самостоятельно выводить закономерности, анализировать и делать выводы. Поэтому программисты создают для них не просто алгоритмы, а так называемые датасеты (от англ. dataset). Это обработанные и структурированные массивы данных, из которых программа сама находит то, что ей нужно, по определенным признакам).
– То есть мы пишем программе не просто прямые указание к действию, а ставим более сложную задачу: если видишь это – сделай так, а если видишь то – сделай по-другому, – поясняет Лукашевич. – Иными словами, даем наводку к правильному выводу.
По словам Сергея Маркова, сегодня многие научные школы сходятся на том, что ИИ — это область науки и технологий, которая занимается автоматизацией решений интеллектуальных задач.
– Мы занимаемся созданием системы, которая может подменить в этом человека, – говорит разработчик ИИ. – Термин «искусственный интеллект» обозначает целую область науки и технологий. При этом, если говорить о ChatGPT, это всего лишь одна из программ – яркое явление, благодаря которому масса людей узнала, что такое генеративные языковые модели, трансформеры, которые кто-то обучают, и они решают широкий спектр интеллектуальных задач.
Оказалось, что нейросетевое языковое моделирование – то, что сегодня воспринимается нами как некое новшество, – стартовало как явление еще 20 лет назад. В основе моделирования, по словам Маркова, лежит статистическая лингвистика, которая появилась как идея о том, что значение слова связано со статистикой и контекстом.
– То есть в какой компании находится слово, то и определяет его значение, – говорит Марков.
Проиграет ли естественный интеллект ИИ?
Журналистов, собравшихся в Научном кафе, очень волновало, есть ли у нашей пишущей братии будущее в свете бурного развития искусственного интеллекта.
Станислав Ашманов успокоил: у журналиста перед тем, как придумать правильное слово, идет мысль. У ChatGPT – не так...
– Основатель теории информации американский инженер Клод Шеннон еще 70 лет назад занимался экспериментами по статистической лингвистике. К примеру, он брал текст Шекспира и «шел» по нему, выписывая, насколько часто разные слова встречаются друг с другом, – поясняет Ашманов. – <...> У него получалась большая статистика узнаваемых слов и конструкций, при помощи которых он пытался генерировать текст. Бред, правда, получался полный – не хватало широты контекста.
В случае с GPT, по словам Ашманова, разработчикам удалось расширить это «окошко» контекста — количество вводимых в программу слов или их кусочков стало огромным. Теперь программа понимает, какое слово должно идти следующим, тексты получаются более-менее складными, но гонка за расширение этого «окошка» продолжается.
– В общем, генерация слов – это не то, что делает журналист, – подытоживает ученый. – У того не просто жонглирование словами – у него присутствует мыслительный процесс, понимание того, о чем он пишет. Но есть в любой интеллектуальной деятельности некая рутина, шаблонные действия, операции. Вот они-то и являются кандидатами по замене искусственным интеллектом. Но смысл в произведение все-таки вкладывает человек.
В свою очередь, Сергей Марков высказал мысль о том, что искусственный интеллект может еще догнать естественный, дело лишь во времени.
– Люди и машины одним миром мазаны, — говорит Марков. – Мы являемся частью единой физической вселенной. Наша с вами нервная система – это та же структура, состоящая из атомов и молекул, а нейроны в нашем мозге определяются электрохимическими сигналами.
В общем, по словам разработчика ИИ, ему больше близка точка зрения философа Дидро, который еще в XVIII веке сказал: «Если я встречу попугая, который будет разумно отвечать на все мои вопросы, то я буду обязан признать за ним наличие интеллекта». Соответствующей логикой, только в приложении к компьютеру, руководствовался и английский математик Алан Тьюринг, который в 1950 году предложил свой известный тест Тьюринга. Он основывается на игре в имитации.
– Есть две комнаты, – говорит Марков. – В одной скрывается девушка, в другой — парень. Ведущий берет бумажки, пишет вопрос и подкладывает под их двери. При этом целью парня является выдать себя за девушку, а целью девушки — выдать себя за юношу. И дальше Тьюринг рассуждает: давайте мы возьмем за основу эту процедуру и заменим парня и девушку на машину и человека и посмотрим, сможет ли машина выдать себя за человека. Если да, то мы обязаны будем признать наличие интеллекта у системы, которую мы тестируем. С тех пор прошло 73 года, и мы видим большой прогресс. Мы видим, что системы на основе ChatGPT4 умеют решать самые разные интеллектуальные задачи, поддерживать вменяемый диалог, решать прикладные задачи, но в целом грань не пройдена... В прошлом году 200 научных групп подготовили более 300 типов тестов, собрали их в огромный набор вопросников, и мы видим по ним, что самые продвинутые нейросети не достигли уровня неразличимости с людьми. Есть много задач, которые люди решают лучше. И в общем, это неудивительно: наш мозг – удивительное устройство, состоящее из 86 миллиардов нейронов, квадриллиона синапсов... Чтобы смоделировать каждый синапс, нам нужны сотни тысяч двоичных элементов – в общем, возможности вычислительной мощи человеческого мозга превосходят возможности машин.
Однако, по словам Маркова, вычислительные мощности компьютеров растут по экспоненте, уже сегодня они научились обыгрывать человека в шахматы и в логическую игру Го. Есть также примеры в природе, когда, к примеру, нервная система пчелы оказывается более совершенной по сравнению с нашей при поиске оптимального маршрута. В чем их сходство? В высокой степени специализации, «заточенной» под решение конкретной задачи. В целом, целью создания ИИ, по словам ученого, и является лишь расширение способности людей!
Подытожила дискуссию Наталья Ефремова, высказав мысль о том, что рано пока человечеству мериться силами с ChatGPT. Он, по ее словам, знает только то, что знает интернет, а это гораздо меньше того, что знает и умеет человечество в целом.
Страшное будущее с ИИ
Да, сегодня искусственный интеллект помогает вести картотеку в поликлинике, он выступает ассистентом терапевта, «высказывая» свое «мнение» в помощь врачу, анализирует в интересах ученых большие объемы данных. Но людей все равно беспокоит неопределенность. Елена Брызгалина, как специалист по этике, описала основной круг опасений общества, связанных с ИИ.
По ее словам, пока ни с технической, ни с философской точки зрения не решен вопрос наделения искусственного интеллекта волей. До тех пор, пока искусственный интеллект не обладает волей и собственным целеполаганием, это инструмент, который должен оставаться в наших руках.
Есть идея наделить искусственный интеллект субъектностью – и это позиция тех стран, которые сейчас лидируют на рынке (в этой области), – говорит философ. – Но есть позиция Российской Федерации, которая считает, что ИИ никогда не должен рассматриваться как субъект. Потому что, если я – субъект, я сам ставлю цель, выбираю способ ее выполнения и несу за это ответственность.
Брызгалина приводит примеры того, когда можно доверять решения искусственному интеллекту, а когда нет.
– Все мы когда-то покупали телефон. Как мы принимали решение, прежде чем выбрать ту или иную модель? Мы анализировали, сопоставляли цены, характеристики и в итоге выбрали тот, который отвечал всем требованиям. Такую задачу, по-моему, можно доверить ИИ, – говорит Брызгалина. – Чего мы не готовы отдать искусственному разуму? Все мы недавно были в ситуации принятия или непринятия решения о вакцинации. Сколько экспертов переслушали!? Вам было легче от того, что почти у каждого был свой взгляд на проблему? Получалось, что в условиях, когда мы столкнулись с новым заболеванием, с новой вакциной, ни у кого не было достаточной полноты информации. И что делал каждый из нас?
Мы не принимали решение о вакцинации как решение на уровне алгоритма — мы руководствовались категорией ценности. Что лично для меня было ценно? У меня больная мама, и я готова была, грубо говоря, хоть каждый день вакцинироваться, лишь бы не принести ей вред. Кто-то, опираясь на схожие категории ценности, готов был внести вклад в коллективный иммунитет, кто-то просто боялся новой прививки. То есть все принимали решение не на уровне определенных знаний, а большей частью исходя из своего личного мнения, этических соображений.
Елена Брызгалина также подняла проблему искусственного интеллекта и развития личности.
– Я как-то спросила своих студентов, что они будут делать, когда все за них будет делать интернет. Знаете, что они мне ответили? «Спать!». Чем мы будет заниматься, когда ИИ высвободит много свободного времени, – это один из важнейших вопросов.
Философ отметила, что обществу необходимо уделить больше внимания развитию правовой составляющей в области искусственного интеллекта. Пока же, по ее словам, право не поспевает за развитием высоких технологий.
Итак, уровень неопределенности – восхищения и опасений в связи с развитием технологий искусственного интеллекта – очень высок. Это можно сравнить с переживаниями общественности XIX века по поводу развития железнодорожного транспорта. Вот какое заключение в 1837 году дал по поводу быстрой езды на поезде Баварский королевский медицинский совет: «Строительство железных дорог нанесло бы ущерб общественному здоровью. Совершенно очевидно, что быстрое движение (41 км в час) должно вызвать у пассажиров заболевание мозга, своего рода буйное помешательство...». Будем надеяться, что, как в случае с использованием поездов, так и в случае с использованием ИИ, человечество найдет самый безопасный для себя способ.
Автор: Наталья Веденеева
Источник фото: ru.123rf.com
