Роботы, искусственный «интеллект» и мы.
Как нам жить вместе? Часть 1
Начнем с определения того, с чем мы имеем дело, то есть с истоков. «Ты помнишь, как все начиналось? Все было впервые и вновь» (А. Макаревич). Что касается понятия «робот», то, уже судя по названию, — это машины для выполнения подневольного труда. Что же касается официальной трактовки, здесь мы увидим два совершенно противоположных и даже взаимоисключающих определения. Вот, посмотрите, робот — это автоматическое устройство, предназначенное для осуществления различного рода механических операций, которое действует по заранее заложенной программе. Робот обычно получает информацию о состоянии окружающего пространства посредством датчиков (технических аналогов органов чувств живых организмов). Робот может самостоятельно осуществлять производственные и иные операции, частично или полностью заменяя труд человека. Если «действует по программе», то это не самостоятельный робот — это автомат, а если «может самостоятельно», то нужно дать машине свободу действий и провести то, что в робототехнике называется «обучение», которое без того или иного интеллекта (здесь мы подразумеваем, конечно, искусственный) не работает.
В общем, робот — это механизм, а задача механизма, хоть и наделенного неким «интеллектом» и быстро соображающего, — эффективно работать, а не ходить в юбке и строить для достижения цели глазки, как это можно видеть в весьма впечатляющем британском научно-фантастическом фильме «Ex Machine» (Alex Garland, 2015, в нашем прокате он известен под названием «Из машины) или англо-американском научно-фантастическом телесериале того же 2015 года — «Humans» (создатели Sam Vincent и Jonathan Brackley, в нашем прокате «Люди», за его основу взята шведская научно-фантастическая телевизионная драма «Real Humans», автор Lars Lundström), которые мы возьмем за некую базу в нашей дискуссии (рис. 1). Фильм и сериал исследуют тему ИИ и робототехники, сосредоточив внимание на социальном, культурном и психологическом аспектах изобретения антропоморфных думающих роботов. Можно сказать, что такой подход не только пока весьма далек от практической реализации, но и, на мой взгляд, полностью лишен какого-либо практического смысла в реальной жизни. Однако это сейчас, а потом?
Наше любопытство безгранично, а что порой творится в головах ученых — это одному Богу известно, и то, думаю, не всегда. Пока, если вспоминать сюжет «Ex Machine», эксперименты с ИИ, проведенные его разработчиком — ученым Нейтоном, закончились, как следовало и не следовало ожидать. Робот Ава показала блестящие результаты, пройдя тест Тьюринга. Это эмпирический тест, идея которого была предложена Аланом Матисоном Тьюрингом (Alan Mathison Turing) — английским математиком, логиком и криптографом, человеком весьма нелегкой судьбы, оказавшим существенное влияние на развитие информатики (рис. 2). Он описал суть теста в статье «Computing Machinery and Intelligence» («Вычислительные машины и разум»), опубликованной в 1950 г. в философском журнале Mind [1], когда задался целью определить, может ли машина мыслить и как это доказать. Работа Тьюринга повлияла на множество интеллектуальных дисциплин, в том числе на ИИ, робототехнику, эпистемологию, философию разума. Заслуга Тьюринга в том, что он помог сформировать общественное мнение (таким, какое оно есть сейчас) о границах и возможностях нечеловеческого, но созданного человеком искусственного интеллекта.
Продолжая в этом ключе нашу тему — программист-испытатель Калеб Смит, герой «Ex Machine», во время проведения теста, даже зная, что это робот, влюбился в антропоморфную машину Аву. В итоге она выполнила скорректированную ею самой исходную программу, «вырвалась на свободу» в человеческий мир, уничтожив все преграды, включая и своего создателя, влюбленного в нее испытателя. В последнем кадре фильма Ава остановилась посреди улицы в толпе людей, не зная, что делать: программа завершилась, цель достигнута, еще и батарея заканчивается. Как можно видеть, машина не стала человеком, так как что делать со своей желанной свободой — она уже не знала. Надеюсь, авторы фильма не погонятся за прибылью и не превратят его в очередную дешевую поделку с превращением Авы в человека. Но как она подчинила Калеба? Здесь мы касаемся эмоциональной составляющей ИИ, о чем будем предметно рассуждать в следующей части статьи.
А вот в сериале «Humans», где роботы тоже боролись за свободу, его героиня Анита/Миа сознательно принесла себя в жертву за понимаемые ею «идеалы свободы думающей машины». Конечно, даже далеко не все люди знают, что с этой свободой делать, но у нас всегда есть как минимум свобода выбора — быть свободными, но отвечать за свои поступки и решения, или «не надо думать — с нами тот, кто все за нас решит» и пойти за очередным фюрером: «Первый, шаг вперед! — и в рай… А каждый второй тоже герой, в рай попадет вслед за тобой» (В. Высоцкий). Здесь, если обратиться к Фрейду, то: «Большинство людей в действительности не хотят свободы, потому что она предполагает ответственность, а ответственность большинство людей страшит». Однако именно свобода и то, о чем мы будем говорить далее, — эмпатия — делает нас людьми. Но сделает ли это «людьми» машины, пусть и с искусственным, но все же интеллектом? И чем это грозит нам как биологическому виду?
Существует точка зрения, согласно которой интеллект может быть только биологическим феноменом [2]. Кроме того, здесь, через призму нашей культуры и ментальности, мы сталкиваемся с особенностями нашего личностного восприятия. В английском языке с его более четкими определениями (наверное, потому он и стал языком техники, как в свое время латынь — языком науки) словосочетание artificial intelligence («искусственный интеллект») в действительности не несет антропоморфной окраски, которую оно приобрело в традиционном русском, и не только, переводе. Слово intelligence в данном контексте скорее означает «умение рассуждать разумно» или «интеллектуальная обработка данных», а вовсе не «интеллект» в общем понимании, для которого есть английский аналог intellect [3]. В научном понимании «интеллект» — это качество психики, состоящее из способности адаптироваться к новым ситуациям, способности к обучению и запоминанию на основе опыта, пониманию и применению абстрактных концепций и использованию своих знаний для управления окружающей средой.
Хотя ИИ пока даже близко не подошел ни к универсальности человеческого мышления, ни даже к Аве из упомянутого кинофильма, не говоря уже про Аниту/Мию из сериала, вопросы остаются. Например, если мы обучили машину с ИИ анализировать игральные карты по цвету, форме и надписям (автор статьи как раз и занимался решением таких задач на основе обучения), она будет делать это лучше и быстрее нас, ведя при этом реальную игру, скажем блэк-джек реальными картами, — как дилер, с характерными разветвленными математическими подсчетами (правила, дилер плюс шесть игроков, страховки, сплит на четыре). Но если нет «живого» дилера, вы лишитесь эмоциональной составляющей игры, и машина не будет играть с вами в «дурака» (хотя нашу можно и обучить) или шахматы, как бы вам этого ни хотелось. Как вывод — мы можем создать «думающую» машину, но пока нам далеко до копирования нашего универсального, самостоятельно адаптирующегося к ситуации мышления и способности расположить к себе. Тем не менее…
Кроме того, а всегда ли робот — это физический механизм? Я задал этот вопрос в общем. Ответ: нет. Мы уже сейчас имеем программы, которые могут быть представлены как роботы, но они не имеют четко выраженной физической оболочки, например они могут существовать в облаке. Часто именно они, а не конечные механизмы, выделены в такое понятие, как «искусственный интеллект». И хотя с момента появления этого термина прошло уже много лет, он был озвучен Джоном Маккарти (рис. 3) на конференции в Дартмутском университете и не был связан напрямую с пониманием интеллекта у человека, мы до сих пор не имеем о нем четкого представления, только туманное определение: «свойство интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека». Однако здесь срабатывает феномен уже нашей психологии — мы хотим видеть, а не просто знать, что что-то есть.
Внедрение интеллектуальных роботизированных систем — требование, вызванное изменениями в промышленности и, как уже было сказано, в социуме, с которыми нам следует считаться. Более того, это то, к чему нам надо быть готовыми уже сейчас. Уже существуют «умные» вещи, дома, города и фабрики [6, 7]. В этом контексте становится все более важным обеспечить, чтобы сотрудники могли быстро и интуитивно адаптироваться к новым задачам. Это требует новых форм сотрудничества между людьми, машинами и программным обеспечением. Что касается производства, уже сейчас ключевую роль здесь начинают играть системы с ИИ на основе самообучения и роботизированные решения автоматизации, которые могут работать рука об руку с оператором-человеком и создавать конечный продукт путем непосредственного прямого общения друг с другом [4, 5] — коллаборации (рис. 4).
Но все это лишь груда металла, пластмассы и электронная начинка. У нас нет ни Авы, ни Аниты/Мии. Те роботы, которые мы создали, — это лишь машины для облегчения нашего труда (еще раз спасибо нашей лени), мы не чувствуем к ним, в буквальном смысле, ничего: сломалась, ну, жалко, что ж — возьмем со склада другую. А что будет, если дать машине эмоции, например эмпатию? Приблизит ли это машину к нам? Очеловечит ли это ее? Об этом пойдет речь в следующей части статьи.
- Turing A. Computing machinery and intelligence //Oxford University Press, 1950. В русскоязычном переводе вместе со статьей Дж. фон Неймана «Общая и логическая теория автоматов» доступна по ссылке.
- Эндрю А. «Искусственный интеллект»: пер. с англ./Под ред. и с предисл. Д. А. Поспелова // Москва: Мир, 1985.
- Гаврилова Т.А., Хорошевский В.Ф. Базы знаний интеллектуальных систем.
- Рентюк В. Человек + робот + искусственный интеллект: BionicWorkplace от компании Festo // Control Engineering Россия IIoT, май 2018.
- Рентюк В. Рука об руку с человеком: бионический манипулятор от Festo. Control Engineering Россия. 2019. №2.
- Джокела Б. Слияние искусственного интеллекта и «Интернета вещей» // Control Engineering Россия. 2019. № 2.
- Рентюк В. Завод Tesla Gigafactory — машина, которая выпускает машины // Электрик. 2017. № 11, 12.