Островский А.М. Социально-философские основания гуманизации человеко-компьютерного взаимодействия (Опыт междисциплинарного исследования)

Подождите немного. Документ загружается.

280

достоверных результатов для всего множества исходных значе-

ний. При обучении нейронной сети возможны такие проблемы

как «…паралич или попадание сети в локальный минимум по-

верхности ошибок. Невозможно заранее предсказать появление

той или иной проблемы, равно как и дать однозначные рекомен-

дации к их разрешению»

. Структуру нейронной сети после ус-

пешного обучения не всегда просто описать математически.

Кроме того, эти описания при решении практических задач ока-

зываются чрезмерно сложными и почти непригодны для содер-

жательного анализа.

Аналогичные рассуждения можно отнести и к так называе-

мым «генетическим алгоритмам». Работа генетических алгорит-

мов заключается в последовательном подборе, комбинировании и

вариации искомых параметров данных с использованием вычис-

лительных механизмов, напоминающих дарвинские механизмы

биологической эволюции

. Подобную искусственную «эволюцию»

может «заклинить» на непродуктивном пути поиска решения в

зоне локального максимума, а оптимальное решение, если оно

существует, окажется недостижимым. В этом случае также тре-

URL: http://ru.wikipedia.org/wiki/Нейронные_сети

URL: http://ru.wikipedia.org/wiki/Генетический_алгоритм

281

буется привлечение новых гипотез и дополнительной информа-

ции. В специальной литературе подобным проблемам уделяется

достаточно много внимания, однако эффективных методик пока

не выработано. Следует подчеркнуть, что нейронные сети и гене-

тические алгоритмы относятся к разведочному инструментарию,

поэтому спектр возможных решений при тех или иных парамет-

рах расчета нужно рассматривать не более как вспомогательный

материал.

Положение не спасает наличие развитых инструментов ви-

зуализации эмпирических закономерностей, так как в исследо-

вании многомерных связей они малоэффективны. Структуры

размерности 4 и выше не поддаются пространственному воспри-

ятию человека, а как следствие — целостному анализу и осмыс-

лению. Проекции же этих структур на двумерную плоскость или

в трехмерное пространство, как камни из сада «Карэсансуй» буд-

дийского храма в Киото Рѐан-дзи, всегда имеют «слепые пятна»,

порождаемые необходимостью «заморозки» «лишних» размерно-

стей. Кроме того, эффективное использование различных мате-

матических метрик при сокращении размерности анализируемой

структуры требует глубокого абстрагирования и невозможно без

развитого пространственного воображения, которым владеют

282

даже не все профессиональные исследователи. В целях усиления

наглядности приходится жертвовать определенной информаци-

ей, что непременно сказывается на увеличении абстрактности

получаемых результатов.

Возможности нейрокомпьютерных программ были значи-

тельно переоценены: «...то, что программа может найти решение

в принципе, не означает, что эта программа действительно со-

держит все механизмы, позволяющие найти данное решение на

практике»

. На какое-то время нейрокомпьютинг оказался вы-

тесненным с переднего края научно-технического развития кон-

курирующим направлением, основывающемся на символической

парадигме.

Эта парадигма взяла за основу другой инструмент челове-

ческого мышления — язык. Однако и она не подтвердила возло-

женных ожиданий. «Многие исследователи, работающие в облас-

ти эволюционирующих вычислений, ставят под сомнение роль

символьных рассуждений и семантики ссылок в процессе мыш-

ления»

Рассел С., Норвиг П. Искусственный интеллект: Современный подход. 2-е

изд. М.: Издательский дом "Вильямс", 2006. С.61

Люгер Дж.Ф. Искусственный интеллект: стратегии и методы решения слож-

ных проблем. 4-е изд. М.: Изд. дом «Вильямс», 2003. С. 20 — 21.

283

С возрастанием сложности решаемых задач потребовались

долгосрочные дорогостоящие научные исследования. Оказались

необходимы новые вычислительные стратегии, требовался кро-

потливый труд инженеров, специалистов, ученых. Эти требова-

ния в принципе можно удовлетворить при наличии соответст-

вующих ресурсов. Однако непреодолимой преградой на пути к

искусственному суперинтеллекту или супералгоритму выступили

принципиальные ограничения, не позволившие динамично по-

вышать качество конструируемых человеком нейрокомпьютеров.

Разработка нейрокомпьютеров упирается в так называемые

«барьеры сложности», которые необходимо преодолевать всякий

раз при решении новой задачи. Эти «барьеры сложности» не под-

даются универсальным методам и в каждом случае требуют при-

влечения значительных научных ресурсов. Парадокс заключается

в том, что для успешного решения сложной задачи нужно знать

ответ, хотя бы приблизительно. Поэтому увеличение качества

решения большинства исследовательских задач не может быть

обеспечено методом «проб и ошибок». Иначе говоря, «случайно»

сконструировать суперинтеллект не получится.

Оказалось, что вычислительная сложность задач, которые

приходится решать на практике, упирается в полный перебор

284

всех вариантов решения. Поэтому сложность не может быть

снижена в рамках избранной парадигмы. Требуется использова-

ние иных парадигм. Вследствие этого начальный оптимизм сме-

нился фазой разочарования — «зимой искусственного интеллек-

та». Эта динамика, по-видимому, носит волновой характер и обу-

словлена трендами «раскачивания» научной картины мира. По

мере накопления знаний, а также с появлением новых компью-

терных инструментов, внимание к рассматриваемой проблема-

тике вновь актуализировалось. Однако выплыли ограничения

иного характера, блокирующие появившиеся инструменты. Про-

должилось циклическое чередование фаз развития и стагнации.

Можно сказать, что за все время отношение общества к специа-

листам в области ИИ «…претерпело эволюцию от скепсиса к ува-

жению»

. Однако большинство разработок по-прежнему имеет

характер алхимических опытов, но сохраняет себя в пространст-

ве свободного мышления.

Преодоление накопившихся противоречий исследователи

видели, например, в распараллеливании вычислительных про-

цессов. Предполагалось, что эффективность коры головного моз-

Поспелов Д.А. Десять «горячих точек» в исследованиях по искусственному

интеллекту // Интеллектуальные системы. 1996. Т.1, Вып.1—4. C.47.

285

га обусловливается именно этим обстоятельством, а именно —

системы нейронов работают согласованно в параллельном режи-

ме. Однако на практике оказалось, что программное распаралле-

ливание продуктивно только для задач специального класса, для

большинства других задач параллельная организация вычисле-

ний невозможна или мало продуктивна.

Эффективность современных наработок в области ИИ об-

манчива. ИИ не может автономно ориентироваться в окружаю-

щем нас мире. Для этого потребовались бы качественно иные ре-

сурсы. Сложность компьютерного решения даже «простых интел-

лектуальных» задач нетрудно проиллюстрировать на примере

распознавания образов. Так, принципиальное отсутствие обоб-

щенного алгоритма, способного за приемлемое время опознать

искаженные символы на рисунке, положено в основу широко ис-

пользуемого компьютерного сервиса CAPTCHA

Сервис применяется в данное время для более или менее

эффективного предотвращения несанкционированных рассылок

электронной рекламы, Интернет-атак и других деструктивных

действий компьютерных взломщиков, разрабатывающих в ука-

занных целях специальных роботов (ботов). CAPTCHA представ-

URL: http://ru.wikipedia.org/wiki/CAPTCHA

286

ляет собой обратный тест Тьюринга и служит наглядной иллюст-

рацией того, как распознавание простого изображения может

оказаться непосильно даже технически оснащенному компьюте-

ру, но вполне доступно среднестатистическому человеку. По ука-

занной причине точное распознавание рукописного текста сколь

угодно совершенной компьютерной программой в ближайшем

будущем маловероятно. Компьютер пока не может оперировать с

нечеткой информацией на том уровне, на котором с ней работает

человек. Д.В. Хиллис подмечен важный парадокс, заключающий-

ся в том, что «люди быстрее справляются с задачами, когда полу-

чают больше информации, в то время как компьютеры, наобо-

рот, замедляют работу»

В этой связи нам представляется, что аналитический под-

ход к распознаванию, в ходе которого выделяются лишь отдель-

ные наблюдаемые стороны объекта, непродуктивен. Требуется

целостное, синтетическое, комплексное, стереоскопическое виде-

ние обнаруженных черт. Кроме того, без ассоциативной, смысло-

вой привязки картины увиденного самим субъектом распознава-

ние невозможно в принципе.

Hillis D.W. The Connection Machine. Cambridge, MA: MIT Press, 1985. Цит.

по: Люгер Дж.Ф. Искусственный интеллект: стратегии и методы решения

сложных проблем. 4-е изд. М.: Изд. дом «Вильямс», 2003. С. 52

287

Мозг человека отличается «нечеткой воспроизводимостью»

(С.В. Медведев). Функционально обусловлено, например, что ре-

шение одной и той же задачи не может задействовать каждый

раз идентичные нейронные связи. Вариабельность неизбежна.

Компьютер не может демонстрировать эффективность в анало-

гичных условиях, апеллируя лишь к комбинаторике разумного.

В продолжение сказанного следует добавить, что сам про-

цесс обучения человека обусловлен нечеткостью. Например, ро-

дители, повторяя определенные слова ребенку, вольно или не-

вольно в игровом сценарии искажают грамматические формы

текста, что почти не влияет на качество его распознавания и

формирование рефлексивного опыта.

Удивительная сложность головного мозга, который с легко-

стью решает качественно более сложные задачи, чем CAPTCHA,

вызывает сомнения даже в очевидном. Например, «известный

канадский нейрохирург Пенфилд подвел итог оперирования на

мозге в течение полувека словами: с помощью этого мыслить

нельзя»

. Сомнение в функциональной способности мозга влечет

проблему доверия тому, что продуцирует мозг. Вполне вероятно,

Цит. по: Венда В.Ф. Системы гибридного интеллекта: эволюция, психология,

информатика. М.: Машиностроение, 1990. С.167.

288

что мозг работает с определенными ошибками, тогда всѐ, что об-

рабатывается и конструируется им, так же содержит ошибки.

Идентификация этих ошибок представляет собой сложный во-

прос. Опыты по искусственному привнесению ошибок, напри-

мер, путем принятия человеком особых химических веществ,

дают основание для более основательного исследования этого во-

проса.

Вероятно, устранить все случайные человеческие ошибки в

сложных артефактах невозможно в принципе. Это подчеркивают

неединичные случаи выявления логико-математических ошибок,

допущенных разработчиками в коде компьютерных программ,

несмотря на тщательный процесс тестирования. В результате по-

добных эксцессов оказываются возможными информационные

утечки, серьезные сбои в работе систем вычислительного обслу-

живания.

Стремление вычислительных алгоритмов избежать случай-

ных ошибок, например, при вводе текста в редакторе не всегда

обнаруживают свою адекватность, поскольку автоматически за-

меняя ошибочное слово или ошибочную грамматическую конст-

рукцию «более верным» вариантом с точки зрения заложенного в

редактор алгоритма, компьютер осуществляет механический

289

подбор подходящего варианта, не обращаясь при этом к его смы-

словой нагрузке. Более продуктивен подход, когда компьютер

выступает советчиком, указывая пользователю на характер воз-

можной ошибки. Этот сценарий ЧКВ может быть экстраполиро-

ван на другие задачи.

В завершении остается отметить, что какими бы совершен-

ными и изощренными ни были бы компьютерные инструменты

ИИ, они никогда полностью не освободят инженера от необходи-

мости думать. В лучшем случае можно добиться обеспечения ра-

боты машины под управлением и контролем человека. При этом

компьютер возьмет на себя выполнение трудоемких вычисли-

тельных и других рутинных операций, например, связанных с

визуализацией промежуточных и конечных результатов, а инже-

нер — всю творческую работу.

Технические возможности с лихвой перекрыли реальные

потребности, например, в документообороте. Однако оказалось,

что компьютерные технологии нуждаются в сложном, многосту-

пенчатом процессе внедрения и сопровождения. Решение каче-

ственно иных задач по масштабам и вычислительному уровню

требует привлечения новых парадигм, открытие которых являет-

ся эмерджентным событием.