Ватикан предупреждает: Папа Римский призвал не верить в «нейтральность» искусственного интеллекта

Технологии настолько прочно вошли в повседневную жизнь, что их одновременно позиционируют и как универсальное спасение от всех бед, и как источник главных угроз для человечества. Однако Папа Римский Лев в своей новой энциклике призвал к более трезвому взгляду на технологический прогресс. Глава католической церкви уделил значительное внимание рискам, которые несет искусственный интеллект (ИИ), подчеркнув, что технологии никогда не бывают нейтральными.

Человеческий фактор в цифровом мире

В своем масштабном обращении, насчитывающем более 42 тысяч слов, понтифик подробно остановился на природе технологий. По его словам, в абстрактном смысле технологии не являются ни безусловным решением проблем человечества, ни врожденным злом. Однако на практике они всегда перенимают характеристики тех, кто их создает, финансирует, регулирует и использует.

В экспертном сообществе отмечают, что заявление лидера полутора миллиардов католиков подчеркивает критически важную роль ИТ в современном обществе. Технологии — это лишь инструмент, и их влияние, как позитивное, так и негативное, полностью зависит от человеческих решений.

Иллюзия разума и скрытые предубеждения

Появление генеративного ИИ существенно усложняет ситуацию. Диалоги с такими популярными чат-ботами, как ChatGPT, Gemini и Claude, часто создают у пользователей ложное ощущение общения с разумным собеседником, обладающим собственной позицией. На самом деле это лишь иллюзия.

По мнению ИТ-обозревателей, по мере приближения генеративных моделей к общему искусственному интеллекту (AGI), способному мыслить на уровне человека, эти системы не избавляются от предвзятости, заложенной на этапе их обучения. Разработчики из OpenAI и Google прикладывают огромные усилия для очистки ChatGPT и Gemini от субъективности. Тем не менее, из-за сложности процессов сбора, разметки данных и последующего обучения полностью исключить этот фактор практически невозможно.

Необходимость человеческого контроля

На сегодняшний день сфера ИИ во многом остается нерегулируемой. Законодатели в США и Европейском союзе пытаются оперативно разработать правила игры, однако государственная бюрократия существенно отстает от темпов развития технологий. В этих условиях ответственность за фильтрацию информации ложится на конечных пользователей.

Специалисты выделяют несколько ключевых задач, которые стоят перед человеком при работе с ИИ:

• Критически оценивать полученные ответы и проверять факты.
• Анализировать, учитывает ли алгоритм более широкие контексты и возможные последствия.
• Самостоятельно обрабатывать финальный продукт перед его использованием.

Проблема доверия к информации

Проблема доверия к технологиям возникла задолго до появления генеративных нейросетей. Эпоха широкополосного интернета, социальных сетей и масштабных дезинформационных кампаний началась еще десятилетия назад. Пользователи привыкли доверять информации из цифровых источников по умолчанию. Именно поэтому, когда ИИ уверенно выдает ложные факты за истину, общество часто принимает их без должной проверки.

В обзоре напоминается известное высказывание, которое часто ошибочно приписывают Альберту Эйнштейну: «Я боюсь, что настанет день, когда технологии превзойдут человеческое общение». Этот тезис служит важным напоминанием: технологии и ИИ остаются лишь инструментами. Если человечество не научится контролировать их использование, оно рискует потерять контроль над собственным развитием.