Массачусетский журнал MIT Technology Review в последних выпусках часто рассказывает, как новейшие технологические достижения меняют наш мир во всех областях: медицина, армия, образование, повседневный быт… Речь пойдет об AI — Artificial Intelligence —искусственном интеллекте. Что такое AI в современном понимании?

У многих наверняка возникнут ассоциации с циклом фильмов «Терминатор» или произведениями Азимова, где машинный разум является настолько же полноценным, как и органический. Для начала следует разобраться с глоссарием и понять, что означает тот или иной термин.

Органический интеллект — способность индивидуума к изучению, решению проблем и накоплению опыта. Включает все познавательные функции: восприятие, память, ощущение, мышление, воображение.

Интеллекту в привычном понимании всегда присуще сознание, которое подразумевает наличие воли, как и рефлексии.

Искусственный интеллект в современном понимании — это способность программных систем выполнять творческие функции, обычно присущие только людям. Главное отличие такой системы от органического интеллекта — отсутствие в ее действиях сознания и сопутствующих ему элементов.

Обозначив специфику вопроса, можно приступать к более детальному изучению индустрии Artificial Intelligence. За комментариями и подробностями мы решили обратиться к профессионалу, чья судьба неразрывно связана с Массачусетсом, архитектору систем искусственного интеллекта транснациональной корпорации Honeywell Андрею Штиленко (Andrey Shtylenko).

В материале мы разберем:

1. Как художественная литература показывает AI? Что из этого правда, а что вымысел?
2. Основные моменты AI-индустрии. Как именно человек заставляет машины умнеть?
3. В каких областях успешно применяют технологии искусственного интеллекта?
4. С какими проблемами в использовании AI столкнулось человечество? Ошибки в работе алгоритмов и их последствия.
5. Основные недостатки машинного разума. Почему и насколько он далек от совершенства?
6. Как будет развиваться AI-индустрия? Вопросы закона и этики.

ИИ. Правда и вымысел: о сознании и интеллекте

Писатели современности пытаются добавить свои определения AI, придавая ему характер или даже оживляя его. Приведем примеры того, как себе это представляют Дэн Браун и Виктор Пелевин в своих научно-фантастических произведениях.

Главная проблема современного ИИ — отсутствие сознательности — описана Виктором Пелевиным в его футуристическом романе “iPhuck”. Лирический герой повествователя в произведении — алгоритм AI «Порфирий Петрович», который, опираясь на многочисленные труды классиков, сам создает тексты, притом по сюжету мало уступающие Агате Кристи, а по мастерству использования «великого и могучего» приближающиеся к Ивану Сергеевичу Тургеневу. Это алгоритм, созданный людьми и для людей, имитирующий человека и выполняющий задачу, заложенную в него создателями. Однако за неимением сознания он не преследует собственных целей, да и таковых в «жизни» Порфирия Петровича, ввиду его специфической «биологии», просто нет:

Это интересная интерпретация будущего, где полноценный AI «живет» среди людского общества. Но, по мнению эксперта, роман — фикция, и представления автора о механизмах работы ИИ не совсем коррелируются с реальностью.

ИИ познающий — Artificial General Intelligence

Дэн Браун — уроженец Новой Англии – в своем романе «Происхождение» описал, каким мог бы быть настоящий искусственный интеллект, чьи действия не ограничены совокупностью алгоритмов, но являются сознательными поступками. Winston – так назвали этот машинный разум в честь Черчилля – занимался изучением вопросов, интересующих человечество ровно столько времени, сколько оно вообще существует: «Как появилась жизнь? И куда приведет ее развитие в конечном итоге?»

Пытаясь познать саму квинтэссенцию жизни, искусственный интеллект обращается к экспериментам Миллера-Юри, имевшим место в 50-х годах прошлого века. В ходе эксперимента ученые пытались проверить теорию химической эволюции / пребиотической эволюции / абиогенеза, используя ингредиенты первичного бульона (водяной пар, водород, метан и аммиак). Согласно этой теории, неорганические вещества в специфических условиях зарождающейся планеты могли преобразоваться в органические. Эксперимент привел к образованию в испытуемой среде 22 аминокислот, что можно считать предтечей Первичного бульона, если опустить отсутствие нуклеотидов — составных частей РНК.

Получив ответы на вопросы о сущности жизни на Земле и ее дальнейших перспективах, суперкомпьютер решает привлечь побольше людей к презентации своего открытия. Уинстон исполняет задуманное несколько специфическими методами, руководствуясь исключительно холодным расчетом, на который способен только машинный разум. Достигнув целей, система, согласно протоколам, заложенным создателем, самоуничтожилась.

Уинстон в романе Брауна — сознательный искусственный интеллект, машина способная ставить себе задачи и решать их нестандартными способами.

Этими признаками определяется органический интеллект и его программный эквивалент — Artificial General Intelligence.

Что из этого вымысел, а что реально существует в наше время? На наши вопросы отвечает Андрей Штиленко (Andrey Shtylenko) из корпорации Honeywell.

Основные положения Artificial Intelligence

– «Искусственный интеллект» — это не только полумифическая концепция синтетического разума. В научной среде под искусственным интеллектом подразумевается целая область исследований, общие усилия которой направлены на то, чтобы в конечном итоге наделить компьютер ключевыми признаками органического разума.

И, прежде чем говорить в подробностях об AI, обозначим некоторые его термины, без которых сложно представить какое-нибудь открытие в этой нише: машинное обучение, его разновидность — глубокое обучение, а также нейросети.

Рассмотрим эти понятия:

• Машинное обучение (Machine Learning) – термин, который охватывает набор методик и подходов, цель которых — научить компьютерную систему улучшаться самостоятельно. Для этого используют огромные массивы данных, которые закачивают в программу. Среди этой информации машина находит закономерности относительно заданных инструкций и, основываясь на них, формирует нужный ответ. Больше данных и повторений операций — выше корректность работы системы.
• Искусственные нейросети, или «нейросеть» (Neural Network): с их появлением связана стремительная популяризация искусственного интеллекта. Это компьютерная система, которая имитирует человеческий мозг — эмулирует работу нейронов и синапсов. Нейронные сети могут решать сложные задачи, основываясь на предыдущем опыте их выполнения.
• Глубокое обучение (Deep Learning)— самый популярный и обсуждаемый метод машинного обучения, который, в отличие от классических методов, может «натренировать» нейросеть на выполнение сложных задач.

В процессе обучения глубокие нейросети нагружают постоянно усложняющимися образами, каждый из которых накладывается на предыдущий. Путем такого наслоения программа учится идентифицировать конкретный объект

Например, в системе распознавания лиц сначала определяются базовые формы лица, затем нейросеть начинает находить на изображении простейшие формы (треугольники, круги и пр.). На определенном уровне AI-алгоритмы уже начинают отличать специфические черты человека (форма носа, глаз, скул, расстояние глаз относительно переносицы и пр.)

Успешное применение AI-алгоритмов

Индустрия искусственного интеллекта не развивалась бы так стремительно, если бы функции, выполняемые машинами, не были столь востребованы, а их работа столь эффективной.

– AI-модели, используя различные методы машинного обучения, пригодны для выполнения ряда задач разной степени сложности. Некоторые из них выполняются людьми, другие человек выполнять не может в силу физиологических особенностей. Например, работа с Big Data: систематизация и анализ огромных объемов однотипных данных — непосильная для нас задача, с которой, однако, легко справится достаточно мощный компьютер.

Можно выделить четыре основные области применения технологии: робототехника, распознавание речи и текста, машинное зрение и прогнозирование.

1. Машинное зрение

Машинное зрение широко используют в бизнесе. Например, оно эффективно для обнаружения бракованной продукции промышленных предприятий и последующего ее удаления. Его также используют в медицине: «машинный взор» может более эффективно выявить рак, чем глаз врача из плоти и крови; сейчас ведется работа над внедрением смешанных врачебных команд «компьютер-человек».

Наиболее известным примером применения машинного зрения является технология распознавания лиц. Камеры, оснащенные такой технологией, могут установить личность конкретного человека на улице, зная уникальные черты его внешности.

Добавим от редакции, что американские компании, являющиеся поставщиками технологии распознавания лиц (IBM, Microsoft, Amazon), недавно отказались поставлять ее полиции до тех пор, пока в США не будет принят закон, предотвращающий нарушения прав человека в ходе использования этой технологии. Это – политкорректный реверанс в сторону массовых протестов в связи с гибелью афроамериканца Джорджа Флойда.

2. Распознавание речи и текста

С активным развитием искусственного интеллекта в 21-м веке способности машин к идентификации отдельных слов стали куда более значительными. Так, первый выдающийся и популярный пример применения технологии распознавания речи — голосовой помощник Siri от Apple. Позднее подобные AI-алгоритмы создали Amazon и Microsoft.

Маленькие помощники, которые работают по тому же принципу, за последние несколько лет наводнили рынок электроники и нашу жизнь: умные дома, умные колонки, часы и пр.

3. Робототехника

Искусственный интеллект и роботы — логичное сочетание. И как только первый обрел достаточно мощностей для эффективного использования, мечты фантастов прошлого воплотились в жизнь.

Роботы воспринимают мир и ориентируются в окружающей среде благодаря сложной системе сенсоров. Для того, чтобы они могли эффективно анализировать поступающую с датчиков информацию и обучаться, используется AI. Машинное обучение помогает автопилоту Tesla ориентироваться в пространстве и управлять автомобилем так, как это делал бы человек.

Робот София также использует AI: вычислительные мощности ее компьютера направлены на анализ и имитацию поведения людей.

4. Прогнозирование

Успех выполнения этой задачи для нейронной сети зависит от ее способности к обработке, классификации и поиску зависимостей среди массива данных. Прогнозирующие машины особенно полезны для ведения бизнеса, например, так можно предсказывать изменения на финансовом рынке или поведение и желания человека (таким образом работают рекомендации YouTube и Netflix).

Прецеденты просчетов в работе AI

Применение любой технологии неизбежно сопровождается ошибками, возникающими в ходе ее эксплуатации. Искусственный интеллект — не исключение.

– Конечно, современные представители AI-алгоритмов работают далеко не идеально. Их постоянно совершенствуют, а критические ошибки устраняют. Сейчас нам известно о нескольких действительно значимых случаях, где такие недочеты имели последствия.

Известно, что макияж, нанесенный особым образом, делает человеческое лицо невидимым для камер, оснащенных AI; а машина, управляемая автопилотом, из-за ошибок в системе не справилась с управлением, и дело закончилось страшной аварией.

Технология распознавания лиц

«Умные» камеры наблюдения показывают себя достаточно эффективной технологией. В Китае, где она особенно распространена, AI-алгоритмы составляют рейтинг благонадежности граждан, используя данные видеокамер.

Однако системы машинного зрения можно легко запутать, если правильным образом исказить вводные данные, то есть само лицо человека. Речь идет о макияже, который обманывает камеры, и те анализируют лицо человека с ошибками или не могут его опознать вовсе – как в случае с экстремальными макияжами, вроде CV Dazzle. Технология распознавания лиц, идентифицируя объект, использует паттерны: расстояние черт лица относительно переносицы, формы надбровных дуг и пр. Специальный макияж «закрашивает» эти зоны, и его носитель становится «невидим» для камер.

Но и без экстравагантного грима технология распознавания лиц не всегда справляется с опознанием темнокожего населения, особенно у его женской части. Согласно исследованию MIT Media Lab, в данном случае AI-алгоритмы ошибаются с вероятностью 35%, пытаясь определить пол человека.

Автопилот

Самоуправляемые автомобили — это удобно и часто даже безопаснее, чем живой водитель (AI не будет превышать скорость и проезжать на красный, как это свойственно не слишком ответственным представителям вида homo sapiens).

Однако технология, не обладая сознанием и пониманием происходящего на дороге, не способна реагировать на нестандартные ситуации. По этой причине в штате Аризона и произошла трагедия с автопилотом Uber, который сбил женщину, переходившую дорогу в неположенном месте. Самоуправляемый автомобиль не смог предугадать столкновения, а водитель не среагировал вовремя. По схожим причинам погиб в аварии водитель автомобиля Tesla, который тоже был на автопилоте.

Уязвимости и недостатки искусственного интеллекта

Ошибки при использовании AI в реальной жизни просто неизбежны из-за ряда факторов, обусловленных спецификой технологии. Это наборы сложных формул, которые прописаны их создателями для выполнения строго определенных целей. И все же прогресс вряд ли можно остановить, а значит, применение и, как следствие, совершенствование этой технологии будет продолжаться.

– Предсказать результаты работы ИИ-алгоритмов проблематично из-за особенностей машинного обучения. Система будет обучаться, исходя из той информации, которую в нее загрузит оператор, а, это, как правило, большие объемы данных. И среди них может быть доля «bad data» (некорректных данных), которые при загрузке в нейросеть могут не лучшим образом сказаться на ее эффективности.

Усложняет ситуацию также то, что на данный момент отсутствуют действенные системы для тестирования адекватной работы нейросетей.Повысить правильность выдаваемых системой результатов можно, только постоянно ее оптимизируя, устраняя ошибки, которые были обнаружены непосредственно в момент ее применения.

Adversarial Attack («враждебная атака») — набор методик в искусственном интеллекте, которые направлены на саботаж работы отдельной нейросети. В систему подаются особым образом искаженные вводные данные, которые вызывают ошибки в работе AI алгоритмов. Например, с помощью небольшой наклейки, которая для человеческого глаза выглядит как небольшое пятно, можно запутать системы машинного зрения и исказить их восприятие.

Показательный пример враждебных атак — особый макияж, о котором говорилось выше. Лицо человека — вводные данные, искаженные макияжем таким образом, чтобы технология не могла их идентифицировать.

Машинная предвзятость

Индустрия, как и сама технология, AI начала активно развиваться сравнительно недавно, как только для этого появилось достаточно компьютерных мощностей. Ее внедрение в социум на данном этапе не представляется возможным, а ее использование часто ограничено исключительно безопасной средой применения (приложения, сервисы и пр.)

Такая осторожность не в последнюю очередь необходимо из-за так называемого «bias» — предвзятости: в работе алгоритма возникают критические ошибки, причина которых лежит в некорректном подходе к обучению. К ошибкам такого рода относятся и вышеописанные «баги» систем распознавания лица. Одна из причин возникновения «bias» – это сама человеческая предвзятость, субъективность.

Оператор, работающий с нейросетью может не совсем корректно обрабатывать информацию для обучения машины, что в будущем чревато ошибками в работе AI-системы.

Будущее и настоящее AI

Самые совершенные представители современных нейросетей — это крайне сложная технология, огромные математические формулы с миллиардами переменных. Но их применение исключительно узко направлено: для одной задачи использование AI будет эквивалентно сотне обученных людей, а для другой – AI едва ли покажет себя умнее пятилетнего ребенка.

Хотя технология не может сравниться с разносторонним биологическим мозгом, AI-индустрия становится все более искусной, а ее изобретения все больше похожи на явления, о которых раньше могли говорить только в рамках научной фантастики: отсюда возникают вопросы.

– Заветная цель всей индустрии — создание Artificial General Intelligence (Общего искусственного интеллекта) — системы, которая состоит из множества нейросетей разных назначений, которые могли бы обмениваться между собой опытом. Такой подход может сформировать совершенный машинный разум.

Opus Magnum компьютерной инженерии

Artificial General Intelligence (AGI) — конечная точка развития искусственного интеллекта. Так же, как и AI-алгоритмы, использующие глубокое обучение, AGI построен и функционирует по образу и подобию биологического мозга.

В этом и заключается основная сложность в его создании – мы сами недостаточно осведомлены о работе главного органа в нашем теле. Тесные переплетения синапсов, сгруппированные в отделы мозга и их взаимодействие между друг другом, сейчас еще изучаются. А воссоздавать работу того, о чем не имеешь полного представления — по меньшей мере затруднительно.

– В перспективе создание AGI возможно, однако не на данном этапе развития технологий. По самым оптимистичным прогнозам, это произойдет не раньше 2030 года, также существует мнение, что появление ”совершенного” машинного разума стоит ждать не раньше 2060.

Вне зависимости от того, когда это произойдет, последствия этого события изменят привычный облик человеческой жизни до неузнаваемости. Футуристы по-разному представляют себе такое будущее: от утопического мира, где люди и машины существуют в идеальном симбиозе, до апокалиптических сюжетов, когда технологии будут действовать против человечества.

Ответственность за деятельность технологии

Стремительное развитие AI-индустрии и ее интеграция в нашу жизнь меняет устоявшийся уклад нашего быта. Пока неясно, как относиться к действиям систем искусственного интеллекта и кто должен за них отвечать. Законодательная база на этот счет еще не сформирована.

Хотя общество активно реагирует на распространение технологии распознавания лиц, которая, помимо очевидно полезных функций, может повлечь за собой нарушения прайвеси. По этой причине ее запретили в ряде штатов, в том числе в Массачусетсе.

Как воспринимать AI сегодня?

Сейчас искусственный интеллект — это только инструмент, облегчающий человеку жизнь в некоторых сферах. Говоря об автопилотах машин, умных помощниках, умных домах, некоторые ошибочно принимают эти системы за полноценный рабочий AI.

Однако в действительности это — набор алгоритмов с весьма ограниченным диапазоном действия. А эффективность их работы зависит от человеческого фактора — чем лучше поработали операторы при обучении системы, тем качественнее она будет выполнять поставленные задачи.

Применять эти системы нужно с осторожностью, так как AI-алгоритмы не лишены множества изъянов. Неполадки в работе могут возникнуть не только из-за внутренних ошибок системы, но и с подачи хакера, который хорошо разбирается в работе механизмов искусственного интеллекта. Прежде чем решиться внедрять AI-системы во всех сферах жизни человечества, следует взвесить «за» и «против» и понять, безопасны ли они для применения.

Понравилось? Поставьте лайк нашему проекту – www.ilike.boston, подписывайтесь на наши новости и звоните, если соберетесь после карантина в Бостон, Нью-Йорк или в путешествие по Америке.