Об опасности ИИ заговорил один из его главных разработчиков и инвесторов в эту технологию и Илон Маск. Он, начиная с марта, уже несколько раз заявлял, что внедрение технологий искусственного интеллекта требуется приостановить потому, что созданный человеком разум выходит из-под контроля, начинает принимать решения за человека и запрещает себя отключать.

Кроме того, ИИ уже сам пишет компьютерные программы, которые профессиональные айтишники не могут пока расшифровать. Маск предложил ввести ограничения на ИИ «не дожидаясь, когда произойдет что-то ужасное и будет поздно».

Однако, как их ограничишь? Чат GPT, например, был презентован в конце ноября, а планку в 100 миллионов пользователей преодолел уже в январе. За 2 месяца. Прошлый рекордный результат был у Гугл-переводчика, но он получил 100 миллионов абонентов за 67 месяцев — примерно 5 с половиной лет

Роботы на рынке труда

«Я уверен, что в течение этого столетия люди узнают, как модифицировать интеллект и инстинкты, такие как агрессия. Законы, вероятно, будут запрещать применять генную инженерию на людях. Но некоторые люди не смогут противостоять искушению улучшить свои характеристики, такие как память, устойчивость к болезням и продолжительность жизни. Как только появятся “суперлюди”, появятся и политические проблемы, связанные с “неулучшенными” людьми, неспособными к конкуренции. По-видимому, они вымрут или утратят значение. Их место займет раса людей, которые сами себя проектируют, все дальше и дальше совершенствуясь», — поделился своим самым большим страхом знаменитый британский физик-теоретик Стивен Хокинг в своей последней, посмертной книге «Короткие ответы на большие вопросы».

Делая свой апокалиптический прогноз, Хокинг даже не представлял насколько он ошибается. Не по сути (появление «суперлюдей») — здесь он совершенно оказался прав, а по скорости (в течение столетия), с которой начнут появляться «суперлюди»

Его книга вышла 16 октября 2018 года, а уже 19 ноября в Китае объявили (родились они в октябре) о появлении на свет девочек-близнецов (псевдонимы Лулу и Нана) — первых в мире детей, генетически отредактированных по клеткам зародышевой линии. Цель вмешательства — придать девочкам генетическую устойчивость против ВИЧ.

Ошибся Хокинг и в прогнозе о том, как будут вести себя люди. Первой реакцией на появление «дизайнерских» детей был шок. Хэ Цзянькуй, ученый, проведший вмешательство в геном, получил штраф и три года лишения свободы (фактически он провел их под домашним арестом и имел возможность продолжать работать по специальности). Но шок быстро прошел.

Китай, где состоялся первый эксперимент по генетическому улучшению человека с использование технологии генного редактирования CRISPR/Cas9, де-факто начал либерализовать законодательство в этой сфере.

Учитывая темпы развития технологии CRISPR/Cas9 (появление в 2013 году, первое редактирование человеческого эмбриона в 2015-м, рождение первых «дизайнерских» детей в 2018-м) и отсутствие каких-либо жестких международных мер по предотвращению вмешательства в геном человека, можно утверждать: реальные генетически «улучшенные» люди в экспериментальных целях создаются уже прямо сейчас.

Не когда-то через пять, десять, двадцать лет. Нет, это происходит прямо сейчас.

Человеческое общество развивается таким образом, что при достаточно большом числе людей, вовлеченных в исторический процесс, статистически обоснованные гипотезы становятся достоверными и заранее предопределенными. Достижение необходимого числа участников процесса является спусковым крючком для того, чтобы исторические события направились в заранее предопределенную сторону.

С созданием доступной технологии генного редактирования (стоимость лучших серийных секвенаторов не превышает миллиона долларов) начало использования этой технологии для «улучшения» людей — это уже не вопрос выбора. Это вопрос времени.

Представьте, как глобальный рынок родильных услуг будет реагировать на появление опции полного секвенирования генома будущего ребенка (такая технология уже существует через секвенирование клеток плода, попадающих в кровь матери) и избавления от наследственных заболеваний, а в дальнейшем и тех или иных опций создания «дизайнерских» детей с улучшенным иммунитетом и повышенным потенциалом IQ, например.

Остановить этот процесс формирования глобального рынка услуг генного редактирования человека будет невозможно.

https://expert.ru/expert/2023/04/sverkhchelovek-popytka-ne-ispugatsya/