Искусственный интеллект-технология и ответственность…
Уважаемые коллеги, дамы и господа,
Прежде всего, благодарю вас за приглашение и возможность выступить перед вашей уважаемой аудиторией. Приветствую всех вас из Праги в очень важный день... Мало того, что в Пятигорске проходит такая серьёзная конференция, так еще и день рождения моей жены Ивы…
Переходим к теме. Виктория Островская предложила дополнить предложенную мной тему небольшим обзором дискуссии по искусственному интеллекту. Над обзором дискуссии мы могли бы задержаться надолго, поэтому позвольте мне некоторую аллегорию.
В середине XV-ого века в Европе начала распространяться типография, начавшееся с печатного станка Иоганна Гутенберга в немецком Майнце. Это была не полная инновация, а синтез известных до этого процессов, которые уже более или менее могли заменить копирование текстов на пергамент. Тем не менее именно печатный станок Гутенберга буквально ознаменовал инновационный и информационный прорыв и предвосхитил небывалые общественные перемены. Естественно, что одна лишь догадка вызвала жаркие споры среди церковной, светской и университетской элиты того времени. Если свести все эти богатые дебаты к общим знаменателям, то их окажется три.
Первый — это страх потерять монополию на распространение информации, буквально распространяющийся ужас перед тем, что буквально любой человек сможет свободно распространять свои идеи через печатный станок, и единственным ограничением этого распространения будет стоимость. Это был вполне обоснованный страх, поскольку уже к 20-тым годам следующего, XVI-ого века, половина печатных текстов в Европе уже содержала идеи Мартина Лютера и немецкой реформации. У чешского реформатора начала XIV-ого века Яна Гуса не было такой возможности. Он попал на костер в Констанце, а его многочисленные рукой переписанные труды были уничтожены и не досталось им влияние мимо чешского королевства…Сам Лютер сказал… «Мы все были гуситами, не зная об этом»
Другим общим знаменателем было желание использовать печатный станок для усиления давления на верующих и манипулирования ими в пользу единственно верной католической веры. Одной из первых немецких печатных книг была книга под названием «Молот ведьм», Malleus maleficarum. Это было руководство по преследованию не только ведьм, но и особенно инакомыслия, опасного для церкви и государства, как допрашивать, пытать и в конце концов сжигать неудобных людей и лишать их собственности вползу «правильных лиц своего времени» ...
Третий общий знаменатель — это бред тех, которые почти ничего не знают и не понимают, о чем говорят. Они просто болтают на любую тему, которую воспринимают вокруг себя, потому что считают, что об этом просто хорошо говорить или что эту болтовню можно продать или обменять на социальную выгоду.
Сегодняшние дебаты об искусственном интеллекте похожи на дебаты о типографии в те времена. У них те же общие знаменатели. С одной стороны, это страх потерять власть или, скорее, ощущение власти, а с другой - поиск путей укрепления власти с помощью ИИ. В обоих спорах есть две стороны. То, что один считает хорошим, другой считает плохим. Болтуны присутствуют в каждой эпохе и вокруг каждого явления. Их много и болтов еще гораздо больше…
Важно то, что, несмотря на все эти споры и пустословие, искусственный интеллект, как и типография столетия назад, все больше входит в нашу жизнь, и только нам решать и только от нашей ответственности зависит, будет ли он хорошим слугой или плохим хозяином.
Позвольте мне заметить, что, посоветовавшись с моим старым другом, бывшим митрополитом Чехословацкой, а затем Чешской православной церкви епископом Христофором, я рад заявить вам, что православие и восточное христианство в целом не только не сжигали неудобных для себя людей, хотя и здесь отступникам, реальным или мнимым, конечно, не досталось ложе из роз. Более того, в целом православие традиционно подходило к таким вопросам, как поиск позиции в отношении печати, с большим пониманием, терпимостью, проницательностью и ясностью, чем католицизм. Оно не пыталось решать сложные вопросы путем канонов и догм, а путем личной ответственности, причем не только церковных лидеров, но и самих верующих... Иногда хорошо придерживаться определенных традиций в обществе, но иногда это крайне сложно...
С вашего позволения, я перейду к следующей теме моего выступления - искусственный интеллект как часть технологии сегодняшнего и, несомненно, завтрашнего дня, и уж точно, образно говоря, следующей недели, с одной стороны, и в то же время как объект нашей личной и коллективной или даже общечеловеческой ответственности.
Прежде всего, нам необходимо побороть определенное заблуждение, заключающееся в том, что мы слишком часто называем искусственный интеллект просто «технологией». Если мы посмотрим на авторитетные толкования термина «технология», начиная с его греческих и латинских корней, то увидим, что он имеет значения, колеблющиеся вокруг термина «навык» или «мастерство». Это деятельность, связанная с созданием, реализацией или совершенствованием производственных и творческих процессов.
Таким образом, содержание слова «технология» — это скорее ответ на вопрос «как», чем ответ на вопрос «что». В английском языке мы привыкли понимать термин «technology» в значении «достижение» или «удобство». Как я узнал от носителей языка, то же самое происходит и в русском. Поэтому наше восприятие термина «технология» затуманено некоторой путаницей значений между мастерством и удобством, которая усугубляется двусмысленным различием между терминами «технология» и «техника». Чешский и русский языки далеко не одиноки в этом, а влияние неправильного перевода из английской литературы усугубляет общую путаницу. Поэтому, давайте, по возможности придерживаться первоначального значения термина «skills» или «навык», может быть, своего рода «мастерство».
Однако, давайте, также разберемся с трактовкой понятия «технология» как удобства, то есть технологии как ответа на вопрос что...?! Таким образом, мы можем использовать слово технология для обозначения, например компьютеров, которые мы обычно называем «вычислительной техникой». Также мы можем назвать электронный микроскоп, магнитно-резонансную томографию или простой рентген, которые для разнообразия подпадают под термин «техника визуализации". Заметно, что в данном контексте «технология» — это скорее термин для того, чтобы создать впечатление чего-то более яркого, лучшего, чем «обычная техника». Искусственный интеллект часто называют технологией, то есть навыком, но у нас еще слишком мало практического опыта, чтобы выразить его в более точном ответе на вопрос, что же это такое на самом деле. Возможно, это просто «техника сбора и сортировки данных».
Теперь важно вернуться к вопросу о подотчетности в условиях, когда правил и законодательства нет, а зачастую и быть не может. Для науки, которая очень часто и даже обязательно работает в условиях, не регулируемых законом, личная ответственность имеет особое значение. Наука - первопроходец, пионер, открывающий и создающий для нас новые миры. Она находит в них закономерности и пытается описать их с помощью законов, но не находит в них инструкций по применению, какие мы находим в коробках со всевозможными товарами широкого потребления.
Я не знаю, как обстоят дела в России, но могу подтвердить, что не только в нашем национальном, чешском контексте, но и в контексте ЕС идет поиск универсальных стандартов, которые хотят регулировать то, что еще не известно и даже то, что еще не открыто. Классический актуальный пример нашего времени - попытка регулировать искусственный интеллект, о котором даже ведущие эксперты знают не так много, а люди, которые пишут нормативные акты, знают гораздо меньше или почти ничего. Однако это не мешает этим людям гордо заявлять, что мир будет стоять в немом изумлении перед ЕС и его регламентами, и далеко не только искусственного интеллекта, и что они станут желанной статьей экспорта для ЕС. Дело в том, что очевидно, что миру в целом нет никакого дела до этих «ex cathedra» юридических выставок в ЕС.
Приведенный выше лингвистический экскурс в содержание выражения «технология» классифицирует «искусственный интеллект» более как технику, средство или инструмент, а не только как технологию. Технологии в смысле навыков создаются в первую очередь посредством трехслойного ментального процесса.
На первом слое создается видение, представление о цели или конечной задаче процесса. Это видение проверяется на осуществимость или реализуемость на втором уровне, где в виртуальном времени ищется цепочка целей и средств, чтобы связать видение и текущую реальность. В случае успеха осуществимость видения демонстрируется в рамках виртуальной модели самовоображения. В противном случае неизбежна коррекция видения и повторение теста или исследования осуществимости на втором уровне. На третьем уровне происходит процесс, который можно назвать «планированием», где уже в режиме реального времени решается цепочка средств и целей до целевого состояния. Описанный здесь трехслойный процесс универсален и, по сути, не имеет альтернативы в нашем мышлении при создании любой технологии.
Возможно, я рискну высказать смелое предположение, что «Ее Высокопревосходительство» искусственный интеллект может быть не более чем одним из многих средств в рамках этого трехслойного процесса для достижения одной или нескольких подцелей или целей. С другой стороны, средства и инструменты важны для нашей способности соединять видение с реальностью, и в этом отношении искусственный интеллект является важным инструментом.
Любая технология состояла, состоит и будет состоять из отдельных шагов, ведущих от одной подцели к другой, к конечной цели. Этот процесс, а вместе с ним и развитие технологии, обязательно дискретен, прерывист. Эта кажущаяся банальность определяет, что является технологией и что ее являться не может. Отдельные этапы также обычно не обратимы. Важно отметить, что даже если некоторые шаги повторяются, их контекст, их окружение неизбежно меняются, потому что «нельзя войти в одну и ту же реку дважды».
Технологии неотделимы от ответственности всех людей, которые так или иначе с ними связаны. Ответственность разнообразна по количеству и качеству, степень ее различна, но каждая из них является неотъемлемой частью общей соответственности. Эти частичные ответственности, как и совокупная соответственность, постоянно развиваются, рождаются, разрушаются и уходят из жизни вместе со своими носителями. Давайте, всегда, каждый из нас, осознавать, что нет большей ответственности, чем наша личная ответственность. Ни одно общество не имеет такого содержания личности, как человечек - индивид. Никакая коллективная ответственность не может заменить личную.
В последнее время наблюдается явная тенденция оставлять ответственность за техническими удобствами, особенно за компьютерами, алгоритмами и, не в последнюю очередь, искусственным интеллектом. Это ментальный, логический крах, потому что эти средства или инструменты не могут контролировать процессы, которые их породили. Хотя очень популярна идея, что люди снимут с себя ответственность за технологии, передав их тем, кто помог их создать, на самом деле это фактический отказ от постановки целей и задач. Это еще глупее и опаснее, чем если бы люди безоговорочно вверяли ответственность за свои сложные судьбы верховенству закона или правовому государству.
Популярные представления о возможности отказа от ответственности порождаются различными художественными течениями, литературой, кино и другими средствами массовой информации. Их содержание, однако, непрерывно, хаотично и непрозрачно, и поражает нас своим неисчерпаемым разнообразием, на фоне которого реальные технологии кажутся такими же незначительными и простыми, как водяная мельница на ручье рядом с варп-двигателем в «Стар Треке». Но реальность такова, что самый непрерывный поток данных или информации не приведет к каким-либо изменениям в окружающей среде, если в него не будет включена какая-либо дискретная технология. Существует ряд концепций о том, как соединить технологии, разобщенные по своей природе, с их непрерывной средой, а также как соединить людей с технологиями.
Очевидно, что инструментарий, основанный на кибернетике более высокого порядка, которые могут эффективно работать в различных средах и достигать различных целей, становятся все более универсальными, помимо всего прочего. Раньше с осторожностью говорили, что цель оправдывает средства. Сегодня мы сталкиваемся с противоположной точкой зрения, когда средства определяют цели или цели и зачастую, к сожалению, уже не нужны... Именно эта несколько извращенная логика открывает перед технологиями неожиданные перспективы и возможности для злоупотребления.
Уважаемые коллеги, дамы и господа, как я уже сказал, наука вводит нас в ранее неизученную среду, ищет в ней закономерности, которые затем пытается описать с помощью правил и законов. Она часто ошибается, но поиск, нахождение и подтверждение тупиковых ситуаций - занятие не менее важное, чем научные открытия. Это не приносит Нобелевские или другие премии. Эти поиски тупиков, так же как научные открытия закономерностей среды не могут обойтись без личной ответственности первооткрывателей, пионеров науки и их команд. Это так же справедливо для искусственного интеллекта, как когда-то давно и на заре становления подвига человека для деревянных, каменных и костяных орудий, инструментов и к сожалению, также оружий.
Спасибо Вам за внимание, всего Вам доброго…