Cильный ИИ как путь к победе трансгуманизма
Transcript of Cильный ИИ как путь к победе трансгуманизма
![Page 1: Cильный ИИ как путь к победе трансгуманизма](https://reader035.fdocument.pub/reader035/viewer/2022062821/589a719c1a28ab0b788b5bf1/html5/thumbnails/1.jpg)
Достижение радикального
продления жизни с помощью Сильного ИИ
![Page 2: Cильный ИИ как путь к победе трансгуманизма](https://reader035.fdocument.pub/reader035/viewer/2022062821/589a719c1a28ab0b788b5bf1/html5/thumbnails/2.jpg)
Сильный ИИ – это система искусственного интеллекта, которая значительно превосходит человека в
решении любых задач• Многие ученые полагают
возможным его создание: Хокинг, Tегмарк, Бостром.
• Нет законов природы, которые запрещали бы его создание
Stephen Hawking warns artificial intelligence could end mankind, BBC
![Page 3: Cильный ИИ как путь к победе трансгуманизма](https://reader035.fdocument.pub/reader035/viewer/2022062821/589a719c1a28ab0b788b5bf1/html5/thumbnails/3.jpg)
Создание сильного ИИ приближается
• Рост суммарной вычислительной мощности: мощность интернета составляет как минимум 10 в 18 флопс
• Значительные успехи нейросетей в 2015 годах: обогнали человека в распознавании образов
• Большие инвестиции в ИИ исследования: миллиарды долларов
• Computers now better than humans at recognising and sorting images
• Investing In Artificial Intelligence: 300 deals into AI companies in 2015, Techcrunch
![Page 4: Cильный ИИ как путь к победе трансгуманизма](https://reader035.fdocument.pub/reader035/viewer/2022062821/589a719c1a28ab0b788b5bf1/html5/thumbnails/4.jpg)
ИИ может или уничтожить человечество, или принести
благо• Множество вымираний видов
живых существ в природе связано с появлением сильного конкурента
• Роботы заменяют человека на поле боя
• Роботы вытесняют людей в производстве
• https://en.wikipedia.org/wiki/Military_robot
![Page 5: Cильный ИИ как путь к победе трансгуманизма](https://reader035.fdocument.pub/reader035/viewer/2022062821/589a719c1a28ab0b788b5bf1/html5/thumbnails/5.jpg)
В создание безопасного ИИ
направлены большие деньги2014 – Илон Маск – 10 миллионов долларов
В 2014 году Илон Маск (вместе с Макс Тегмарк и Янн Таллин) после прочтения книги Ника Бострома “Сверхинтеллект” выделил на исследование дружественного ИИ гранты на 10 млн долларов через Future of Life Institute, wiki
2015 – Илон Маск – 1 миллиард долларов В декабре 2015 года Илон Маск, Сэм Альтман и Amazon создали проект OpenAI с суммарным финансированием 1 миллиард долларов для исследований в области создания open-source дружественного ИИ: wiki
![Page 6: Cильный ИИ как путь к победе трансгуманизма](https://reader035.fdocument.pub/reader035/viewer/2022062821/589a719c1a28ab0b788b5bf1/html5/thumbnails/6.jpg)
Сильный ИИ сможет решить задачу радикального продления жизни
и предотвращения глобальных рисков• ИИ позволяет быстрее
обрабатывать большие данные и находить корреляции (Watson in oncology)
• В ИИ можно создать модель живого организма и проводить эксперименты (micoplasma model created in 2012)
• ИИ сможет создать управляемые наномеханизмы, которые смогут лечить любые поврежения (DNA origami)
![Page 7: Cильный ИИ как путь к победе трансгуманизма](https://reader035.fdocument.pub/reader035/viewer/2022062821/589a719c1a28ab0b788b5bf1/html5/thumbnails/7.jpg)
Несколько ожидаемых стадий ИИ
• 2015 ИИ-автопилот. Существует: Tesla
• 2020. ИИ-домашний робот. Есть все необходимое, чтобы сделать его к 2020 году или раньше. Цукерберг будет делать домашнего робота.
• 2025. ИИ-интеллектальный помощник
• 2030 ИИ-модель человека. Пока много неясного. Может быть сделан путем адаптации мозга робота
• 2040. ИИ как целый исследовательский институт, способный к созданию научного знания и самоапгрейду. Можт быть сделан из множества моделей людей.
![Page 8: Cильный ИИ как путь к победе трансгуманизма](https://reader035.fdocument.pub/reader035/viewer/2022062821/589a719c1a28ab0b788b5bf1/html5/thumbnails/8.jpg)
Главный вопрос: будет ли создан сильный ИИ при
нашей жизни?• ИИ почти наверняка будет создан до 2100 года, или будет доказано, что он невозможен.
• Однако есть точка зрения, что он может быть создан в районе 2030 года плюс минус 20 лет. (Виндж, закон Мура, экстраполяции).• MIRI AI Predictions Dataset
![Page 9: Cильный ИИ как путь к победе трансгуманизма](https://reader035.fdocument.pub/reader035/viewer/2022062821/589a719c1a28ab0b788b5bf1/html5/thumbnails/9.jpg)
Второй вопрос: Hard-takeoff или Slow
• Hard-takoff: самоусиливающийся ИИ, захват им мира, революционные изменения, сроки – дни или недели. Сторонники: Юдковски
• Slow-takeoff. Сторонники: Бен Гёрцель. Сильный ИИ будет создан за несколько лет. Вероятно, мир будет поделен между двумя сильнейшими ИИ (С.Лем)
![Page 10: Cильный ИИ как путь к победе трансгуманизма](https://reader035.fdocument.pub/reader035/viewer/2022062821/589a719c1a28ab0b788b5bf1/html5/thumbnails/10.jpg)
Если дожить до сильного дружественного ИИ, это
равнозначно радикальному продлению жизни• От создания сильного ИИ до продаж лекарства
от старости пройдет меньше нескольких лет (а может и дней)
• Чем больше мы наберем биологических данных, тем быстрее ИИ сможет их обработать и создать лекарства от старости, то есть нужно продолжать эксперименты
• Есть две неопределенности: моя ожидаемая продолжительность жизни и время создания ИИ (а также его сила, то есть скорость разработки лекарств от старения)
![Page 11: Cильный ИИ как путь к победе трансгуманизма](https://reader035.fdocument.pub/reader035/viewer/2022062821/589a719c1a28ab0b788b5bf1/html5/thumbnails/11.jpg)
Что делать?
• Продлять свою жизнь
• Вести исследования биологии старения
• Создавать безопасный ИИ