Загадочный «совет по этике» DeepMind возьмет под контроль общий ИИ, если тот появится
Совет по этике DeepMind был тщательно охраняемым секретом с тех пор, как Google приобрела эту компанию по разработке искусственного интеллекта в 2014 году. Однако новый репортаж Хала Ходсона из The Economist проливает свет на то, как появился совет по этике и для чего он нужен. Он пишет, что DeepMind и Google подписали «Соглашение о проверке этики и безопасности», составленное юристами в Лондоне за год до покупки компании.
Чем занимается совет по этике DeepMind
В этом соглашении говорится, что если DeepMind когда-либо преуспеет в своей основной задаче построения общего искусственного интеллекта (AGI) — под которым иногда понимают машину, способную успешно выполнить любую интеллектуальную задачу, которую может выполнить человек — контроль над этой машиной будет принадлежать тем, кто входит в состав руководящего совета — Совета по этике.
Совет по этике, по сути, позволяет DeepMind юридически поддерживать определенный уровень контроля над технологиями, которые он создает, независимо от того, насколько ценными или опасными они становятся.
Стоит также отметить, что машина с общий искусственным интеллектом может и не захотеть слушать тех, кто ее «контролирует».
Несмотря на неоднократные запросы, DeepMind так и не раскрыл, кто входит в Совет по этике, однако The Economist называет всех трех основателей DeepMind (Демис Хассабис, Мустафа Сулейман и Шейн Легг).
В декабре 2016 года Сулейман заявил на конференции TechCrunch, что «совет по этике работает и ему приходится наблюдать за рядом наших инициатив изнутри». И добавил: «Мы всегда говорили, что он будет в значительной степени сосредоточен на полноценных обучающихся системах общего назначения, и я думаю, что это очень и очень далекая перспектива. Мы на расстоянии десятков лет от тех рисков, которые изначально предусматривал совет. Мы внедряем множество механизмов на месте, которые сосредоточены на ближайших последствиях».
За год до этого на конференции, состоявшейся в лондонском офисе Bloomberg в 2015 году, Сулейман сказал: «Мы обнародуем имена, но это еще не все. Это один из компонентов всего аппарата».
DeepMind часто называют одним из лидеров гонки ИИ, вместе с Facebook, Microsoft, OpenAI, Baidu и несколькими другими компаниями.
Но пока что системы искусственного интеллекта способны побеждать людей лишь в некоторых играх, а также выполнять другие нишевые задачи в определенных областях. Назвать их всемогущими и всесильными нельзя, и пройдет еще много лет, прежде чем ситуация изменится.