Иешуа Бенджио (Yoshua Bengio), канадский специалист по компьютерам, один из пионеров в разработке искусственного интеллекта, обеспокоен использованием ИИ для слежки и политического контроля в
Китае. Об этом пишет агентство Bloomberg.
Г-н Бенджио, бывший также соучредителем монреальской компании-разработчика ПО для искусственного интеллекта Element AI, сказал, что его беспокоит технология, которую он помог создать, и которая
используется для контроля поведения людей и влияния на их сознание.
«Это Большой Брат из романа “1984”, — сказал он в интервью. — Мне кажется, становится все страшнее и страшнее».
Иешуа Бенджио, профессор Монреальского университета, наряду с Яном ЛеКуном и Джеффом Хинтоном, считается одним из трех «крестных отцов» глубокого обучения. Это технология, которая использует
нейронные сети — программное обеспечение, частично основанное на принципах функционирования человеческого мозга — для прогнозирования на основе имеющихся данных. Она лежит в основе последних
достижений в области распознавания лиц, обработки разговорной речи, перевода и алгоритмов рекомендаций.
Глубокое обучение требует большого объема данных, в качестве примеров, на которых можно было бы учить систему, но Китай с его огромной численностью населения и строгим государственным учетом в нем
недостатка не имеет.
Китайское правительство начало использовать видеокамеры и технологии распознавания лиц для наблюдения за действиями своих граждан в общественных местах — от пешей прогулки до политического
инакомыслия. В Китае также была создана Национальная платформа по обмену кредитной информацией, которая используется для внесения в черный список железнодорожных и авиапассажиров за
«антиобщественное» поведение. В правительстве рассматривается возможность расширения области применения этой системы.
«Использование вашего лица для слежения за вами должно быть строго регламентировано», — полагает г-н Бенджио.
Иешуа Бенджио не одинок в своем беспокойстве по поводу случаев использования ИИ в Китае. Миллиардер Джордж Сорос 24 января выступил на Всемирном экономическом форуме с речью, в которой подчеркнул
опасность использования ИИ в стране и его угрозу для гражданских свобод и прав меньшинств.
В отличие от некоторых коллег г-н Бенджио, который возглавляет Монреальский институт изучения алгоритмов (Mila), не поддался соблазну работать на крупные технологические компании. Он заявил, что
ответственное развитие ИИ может потребовать от некоторых крупных технологических компаний изменить методы своей работы.
Обеспокоенность вызывает также объем данных, который контролируют подобные компании. По его словам, одним из решений могло бы стать создание фондов хранения данных — некоммерческих организаций или
правовых структур, в которых люди владели бы своими данными и позволяли бы использовать их только для определенных целей. Если бы фонд располагал достаточной базой данных, он мог бы договориться о
более выгодных условиях с крупными технологическими компаниями, использующими подобную информацию, сказал он в четверг во время своего выступления в офисе Amnesty International в Лондоне.
Иешуа Бенджио сказал, что существует много способов использования программного обеспечения для глубокого обучения на благо человечества. В своем выступлении он рассказал о проекте, использующем
искусственный интеллект для создания изображений дополненной реальности, показывающих, как могут выглядеть отдельные дома или кварталы людей в результате стихийных бедствий, вызванных изменением
климата.
Однако, по его словам, существует также риск того, что внедрение искусственного интеллекта приведет к масштабному сокращению рабочих мест, причем со скоростью, гораздо более высокой, чем из-за
других технологических инноваций. Он заявил, что правительствам необходимо проявлять инициативу в осмыслении этих рисков, в том числе изыскивать новые пути перераспределения богатств в обществе.
«Технология, по мере того как она получает всё больше влияния, просто приводят к большей концентрации власти и богатства», — сказал он. «Это вредит демократии, это вредит социальной справедливости
и общему благосостоянию большинства людей».
