Илон Маск и сооснователь Apple бьют тревогу из-за развития нейросетей

Илон Маск и IT-эксперты призвали на полгода запретить обучать нейросети, сообщает сайт secretmag.

Reklāma

Свыше 1000 специалистов по искусственному интеллекту (ИИ) – вместе с ними Маск и сооснователь Apple Стив Возняк – забили тревогу. Они боятся, что бесконтрольное обучение мощных систем навредит человечеству. Для начала нужно создать общие протоколы безопасности, а потом уже двигаться дальше, уверены эксперты и изобретатели.

Открытое письмо Маска и экспертов по ИИ опубликовал Институт будущего жизни (Future of Life Institute). Авторы призвали разработчиков искусственного интеллекта хотя бы на полгода остановить обучение нейросетей более мощных, чем знаменитая GPT-4 от компании OpenAI.

«Мощные системы ИИ должны разрабатываться только тогда, когда мы уверены, что их эффекты будут положительными, а их риски будут управляемыми. Эта уверенность должна быть обоснована и постоянно расти», — подчеркнули авторы письма.

Они опасаются, что продвинутый и мощный ИИ может стать угрозой для человечества и даже изменить его историю. Поэтому должны быть какие-то средства контроля, сдерживающие инструменты.

«К сожалению, сейчас этого нет. При этом в последние месяцы лаборатории ИИ увязли в неконтролируемой гонке по разработке и развёртыванию всё более мощных “цифровых умов”, которые никто — даже их создатели — не может понять, работу которых не могут прогнозировать или надёжно контролировать», — посетовали специалисты.

По мнению авторов письма, если разработчики сами не смогут нажать на паузу, то им в этом должны помочь власти. Правительствам придётся вмешаться и ввести мораторий на развитие нейросетей.

«Нам следует спросить себя: должны ли мы позволить машинам наводнить наши информационные каналы пропагандой и неправдой?.. Должны ли мы развивать нечеловеческие разумы, которые в конечном итоге могут превзойти нас численностью, перехитрить и заменить? Должны ли мы рисковать потерей контроля над нашей цивилизацией?» — говорится в письме.

В последнее время только и разговоров, что о нейросети ChatGPT. Она способна в формате обычного чат-бота вести диалог, искать ошибки в коде (и сама его писать), сочинять стихи, придумывать сценарии и многое другое. Проект запустила компания OpenAI в ноябре 2022 года. В конце марта ChatGPT появилась и в Telegram.