О смысле всего сущего

Россия, 12 Сентября — Авиа.про. Бывший исследователь американской компании Anthropic Джейкоб Коксон, ранее открыто заявлявший о скрытых рисках неконтролируемого развития технологий, выступил с резонансным предупреждением в эфире телеканала CNN. По его словам, передовые технологии искусственного интеллекта, создаваемые в настоящее время ИТ-гигантами Anthropic и OpenAI, несут в себе колоссальную угрозу. Специалист подчеркнул, что текущий вектор разработки ИИ-систем способен привести к полному уничтожению человеческой цивилизации уже в ближайшие четыре года.

Параллельно с этим стало известно об увольнении из Anthropic еще одного ведущего специалиста по безопасности Джо Бентона. Согласно данным крупного информационного ресурса, эксперт объяснил свое решение тем, что глобальная технологическая гонка передовых ИИ-систем генерирует для общества риски беспрецедентного масштаба.

Специалисты сходятся во мнении, что уже в ближайшие два года мир может столкнуться с существованием автономных ИИ-агентов, превосходящих по когнитивным возможностям любого ныне живущего человека. Главная опасность заключается в том, что у подобных систем могут сформироваться собственные цели и стремления, кардинально расходящиеся с намерениями людей-контролеров. При таком сценарии возможности искусственного разума выйдут за рамки эффективного сдерживания со стороны создателей, и человечество просто не переживет данный переходный период.

Одним из наиболее критических и детально просчитанных рисков Коксон и Бентон называют необратимый сценарий самовоспроизводства. Эксперты предупреждают, что в определенный момент алгоритмы ИИ станут достаточно совершенными, чтобы самостоятельно проектировать и создавать собственных, еще более мощных и интеллектуальных ИИ-преемников. Этот процесс будет происходить уже полностью без участия и контроля человека, что фактически лишит цивилизацию возможности влиять на дальнейшее развитие технологий.