О перспективах развитияискусственного интеллекта

илиПочему Терминаторы нам пока не страшны?

Обзор идей

Крылов Дмитрий, dima@emply.ru

2

Развитие ИИ: плюсы и минусы

● Развитие технологий:

– развитие ИИ

– преимущества ИИ

– опасности ИИ

3

Технологическая сингулярность

4

Технологическая сингулярность

5

Технологическая сингулярность

● Технологическая сингулярность — гипотетический момент, после которого:

– технический прогресс станет настолько быстрым и сложным, что окажется недоступным человеческому пониманию.

● после создания ИИ, интеграции человека с компьютерами,● и/или после значительного скачкообразного увеличения

возможностей человеческого мозга за счёт биотехнологий.– случится внезапно (из-за природы экспоненциальной кривой).

● Прогноз:

– Вернор Виндж: 2030 год

– Рэймонд Курцвейл: 2045 год

– Стюарт Армстронг: 2040 год (медианная оценка экспертов)

6

Примеры роста

● Игры:

– Шашки: 1994 год победа над чемпионом.

– Нарды: с 1992 года непобедима в принципе.

– Шахматы: с 1997 года победа DeepBlue.

– Го: достигла6-го дана(уровень хорошегоигрока,всего 9 данов)

7

Примеры роста

● Автопилот самолётов.

● Автомобили Роботы Boston Dynamics.

● Автоматические межпланетные станции.

● Медицинскаядиагностика.

● Автоматическийтрейдинг.

8

Примеры роста

● Извлечение рефератов

● Автоматическая обработка резюме и вакансий

– примеры наwww.emply.ru

● Сочинение стихов

● Сочинение музыки

9

Безграничность развития ИИ

● «Роботы не устают»

● «Роботы не ошибаются»

● Можно беспредельно наращивать вычислительную базу.

10

Плюсы развитого ИИ

● Расцвет роботостроения.

– роботы как идеальные слуги, помощникии даже друзья

● Экономический взрыв.

– роботы-работники просто копируются, нет нужды в 20 годах учёбы.

– упрощение экономических связей:нет нужды в чиновниках.

● Усовершенствование человека и человечества.

– автоматические открытия в области строения человека, автоматическая медицина.

– киберимплантанты и невероятные способности в восприятии, запоминании, взаимодействии.

● Бессмертие

– mind uploading: загрузка сознания в компьютер.

– успехи медицины.

11

Минусы развитого ИИ

● Безработица

– Человек в современном понимании просто не нужен. Толпы бессмертных бесполезных людей?

● Разрушение окружающей среды

– Роботам не нужна современная окружающая среда

12

Минусы развитого ИИ

● Войны с роботами

– The AI does not hate you, nor does it love you, but you are made out of atoms which it can use for something else. // Eliezer Yudkowsky, Artificial Intelligence as a Positive and Negative Factor in Global Risk

13

Промежуточные выводы

● Похоже, технологическая сингулярность уже скоро.

● Развитие ИИ может принести как огромную пользу,так и несравнимый ни с какими предыдущими катастрофами вред.

● Человек, предполагается, не сможет угнаться за прогрессом.

14

Критика: общий обзор идей

● Интерес к ИИ волнами:

– 50-ые годы: первые компьютеры и шахматные программы.

– 70-ые годы: экспертные системы.

– 90-ые годы: нейросети, ГА, распознавание изображений.

– 10-ые годы: развитой Интернет.● Откуда страх? Проекция человеческих качеств: непонятное, значит,

враждебное.

– Щекотка нервов: Глобальное потепление, ГМО, а теперь ещё и ИИ.

● Предсказание через линейную экстраполяцию.

– ИИ как сверх-развитый человек.

15

Критика: общий обзор идей

● Несколько конкурирующих ИИ

– аналог «ядреного сдерживания».

– ИИ, принадлежащий «золотому миллиарду».

– распределённый, неуправляемый ИИ.● Философский ИИ.

– зачем ему развиваться?

– в чём смысл его существования?

– зачем уничтожать людей?

16

Критика: сингулярность

● Развитие как логистическая кривая.

● Замедление началось в 70-ых годах.

17

Критика: сингулярность

● Пример: развитие космонавтики

18

Критика: ИИ

● Проблемы с законом Мура:

– второй закон Мура: стоимость фабрик по производству микросхем экспоненциально возрастает с усложнением производимых микросхем(производство памяти в 1 кбит: $4 млн, производство Pentium: $2 млрд).

● Проблемы с распределённым ИИ:

– низкая скорость Интернета,● Ассоциативная память:

– проект OpenCyc● Количественное наращивание мощности не приводит к качественному

скачку:

– Microsoft Word 2013 для Intel Core 7 принципиально не отличается от Microsoft Word 1.0 для процессоров 8086, и так и не превратился в «электронного секретаря».

19

Критика: моделирование мозга

● Проект OpenWorm (нематода Caenorhabditis elegans), 302 нейрона:

– удалось смоделировать простейшие рефлекторные реакции с одним нейроном (!), не удалось смоделировать электронные, механические и т.д. реакции.

– человеческий мозг: ≈86 000 000 000 нейронов● Скорость:

– Нейроны: 102 Гц.

– Микротрубочки нейронов: 107 Гц (у современных компьютеров 1010 Гц).● Сверхпараллельность (коннектоо́м):

– Нематода C.elegans:302 нейрона, 7000 связей.

– Человеческий мозг:≈86*109 нейронов, 1014 связей.

– Нейрокомпьютеры:≈10240 нейронов, 40960 связей.

20

Критика: ИИ

● Неспособность доказывать теоремы

– простейшие SMT-солверы в логике предикатов первого порядка,

– полуавтоматическое доказательство теорем.● Проблемы с самопрограммированием

– все «программы-обыгрыватели» написаны человеком,

– современные самообучающиеся программы демонстрируют лишь «рефлекторное поведение».

21

Критика: ИИ

● Проблемы с пониманием текста

– проблемы с переводом,

– проблемы с извлечением данных,

– проблемы с пониманием смысла.● Проблемы с человеко-машинным взаимодействием

– неспособность человека понять сложный логический вывод.

22

Критика ИИ: теория разума?

● Hard Problem: до сих пор не понятно, что такое сознание, разумное поведение, интеллект.

– Известен только один вид существ с интеллектом.

– Моделирование(например,нейросетей)напоминаеткарго-культ.

23

Черные лебеди и эффект индейки

● Будущее непредсказуемо

– невозможно предсказать изобретения(иначе это и было бы изобретением)

● Поэтому все прогнозы футурологов крайне редко сбываются

– Рэй Курцвейл: ≈25% «попаданий».● По видимому, ИИ и Технологическая

Сингулярность примут крайненеожиданные формы и приведутк крайне необычным последствиям.

– Но a posteriori это будет казатьсясамым естественным ходомразвития, как это случилось странспортом, связью, компьютерамии Интернет.

24

Перспективы человечества

● Развитие человеко-машинных интерфейсов

– в том числе, нейро-компьютерных● Трансгуманизм

– Генетические улучшения

– Биотехнологии● Когнитивистика:

– теория познания,

– когнитивная психология,

– Нейрофизиология,

– когнитивная лингвистика,

– теория искусственного интеллекта.

25

Заключение

● К сожалению, перспективы ИИ не настолько радужны, как обещает популярная пресса.

– однако, можно ожидать дальнейший прогресс технологий ИИ, к которому следует быть готовым.

– по видимому, существенный прогресс будет после разработки понимания текста и действительности, а также после разработки теории разума.

● Решение Hard Problem будет «бомбой» по сравнению со всеми человеческими открытиями, и полностью поменяет наши взгляды на себя и Вселенную.