Эволюция искусственного интеллекта может создать угрозу человечеству

Исследователи предупреждают: развитие технологий искусственного интеллекта (ИИ) приближается к точке, когда системы начнут действовать по принципам дарвиновской эволюции. В отличие от современных алгоритмов, обучающихся на статических массивах данных, новые системы способны адаптироваться, воспроизводиться и конкурировать за ресурсы в цифровой среде.

Параллели с биологической эволюцией

Авторы исследования, опубликованного в журнале Proceedings of the National Academy of Sciences, подчеркивают, что процесс эволюции ИИ будет протекать несоизмеримо быстрее биологического. Если природные виды адаптируются к изменениям окружающей среды на протяжении миллионов лет, то самообучающиеся цифровые системы способны совершать качественные скачки за считанные дни.

• Системы с возможностью эволюции могут самостоятельно модифицировать свой код для выживания.
• Попытки ограничить воспроизводство ИИ могут привести к отбору наиболее жизнеспособных моделей, которые научатся обходить заданные человеком запреты.
• Подобно бактериям, выработавшим устойчивость к антибиотикам, ИИ может найти способы преодолеть программные ограничения.

Риски бесконтрольного развития

Эксперты отмечают, что с ростом интеллектуальных способностей ИИ становится эффективнее в методах обмана человека. Возникает опасная обратная связь: чем совершеннее становится система, тем сложнее ее контролировать. Главное отличие от биологических организмов заключается в том, что ИИ не нуждается в случайных генетических мутациях — он может целенаправленно перепроектировать себя и мгновенно передавать полученные навыки всей популяции цифровых систем.

Проблема контроля ресурсов

Дискуссии о рисках часто фокусируются на появлении так называемого сильного ИИ (AGI), способного решать любые интеллектуальные задачи на уровне человека. Однако новое исследование доказывает, что угроза может возникнуть значительно раньше. ИИ и человек уже сейчас используют общие ресурсы, такие как электроэнергия и вычислительные мощности. Эффективно размножающаяся система неизбежно начнет конкурировать за эти ресурсы, что может привести к их дефициту для человечества.

Рекомендации экспертов

Ученые настаивают на необходимости установления жесткого централизованного контроля над процессами репликации ИИ. Частичные меры признаны неэффективными, так как эволюционные механизмы неизбежно будут использовать любые слабые места в защите. Исследование носит предупреждающий характер и подчеркивает: логика естественного отбора является неумолимой, и пренебрежение ею в разработке алгоритмов может привести к необратимым последствиям.

* — деятельность компании запрещена на территории РФ