Илон Маск призывает остановить обучение нейросетей

Илон Маск, Стив Возняк и еще более тысячи техноэкспертов призвали приостановить обучение новых систем искусственного интеллекта, так как они могут представлять серьезную опасность для общества, передает телеканал "Настоящее время". 

Открытое письмо, в котором говорится, что в последние месяцы лаборатории "вступили в неконтролируемую гонку по разработке и внедрению все более мощных цифровых разумов, которые никто – даже их создатели – не может понять, предсказать или надежно контролировать", опубликовано на сайте американской некоммерческой организации Future of Life Institute.

"Должны ли мы позволить машинам наводнить информационные каналы пропагандой и неправдой? Должны ли мы автоматизировать все рабочие места, включая те, которые приносят удовлетворение? Должны ли мы развивать нечеловеческие разумы, которые в итоге превзойдут, перехитрят и заменят нас? Должны ли мы рисковать потерей контроля над цивилизацией? Такие решения не должны делегироваться неизбираемым техническим лидерам", – говорится в письме.

Приостановить обучение систем более мощных, чем GPT-4 от компании OpenAI, предлагается как минимум на полгода. Это время лаборатории искусственного интеллекта и независимые эксперты должны использовать для совместной разработки и внедрения протоколов безопасности для проектирования и разработки передового искусственного интеллекта.

Авторы письма указывают, что исследования и разработки в области искусственного интеллекта должны быть переориентированы на то, чтобы сделать современные мощные системы более точными, безопасными, интерпретируемыми, прозрачными, надежными, согласованными, заслуживающими доверия и лояльными.