Основатель компаний SpaceX и Tesla Илон Маск, один из основателей Apple Стив Возняк и еще более тысячи технологических экспертов призвали немедленно приостановить обучение новых систем искусственного интеллекта, которые «могут представлять серьезную опасность для общества». Открытое письмо опубликовано на сайте американской некоммерческой организации Future of Life Institute.
В нем говорится, что в последние месяцы лаборатории «вступили в неконтролируемую гонку по разработке и внедрению все более мощных цифровых разумов, которые никто – даже их создатели – не может понять, предсказать или надежно контролировать».
«Должны ли мы позволить машинам наводнить информационные каналы пропагандой и неправдой? Должны ли мы автоматизировать все рабочие места, включая те, которые приносят удовлетворение? Должны ли мы развивать нечеловеческие разумы, которые в итоге превзойдут, перехитрят и заменят нас? Должны ли мы рисковать потерей контроля над цивилизацией? Такие решения не должны делегироваться неизбираемым техническим лидерам», – говорится в письме.
Приостановить обучение систем более мощных, чем GPT-4 от компании OpenAI, предлагается как минимум на полгода. Это время лаборатории искусственного интеллекта и независимые эксперты, как отмечается, должны использовать для совместной разработки и внедрения протоколов безопасности для проектирования и разработки передового искусственного интеллекта.
Авторы письма указывают, что исследования и разработки в области искусственного интеллекта должны быть переориентированы на то, чтобы сделать современные мощные системы более точными, безопасными, интерпретируемыми, прозрачными, надежными, согласованными, заслуживающими доверия и лояльными.
Среди подписавших письмо также есть известные ученые в области искусственного интеллекта – это канадец Йошуа Бенжио и британец Стюарт Рассел. Кроме того, там есть разработчики систем искусственного интеллекта, конкурирующих с продуктами OpenAI. Маск был сооснователем этой компании, но покинул ее в 2018 году.
