OpenAI под огнём критики: Сноуден предупреждает об опасности
На прошлой неделе создатель ChatGPT, компания OpenAI, объявила о назначении в свой совет директоров отставного генерала армии США и бывшего директора Национального агентства безопасности (АНБ) Пола Накасоне, который также возглавлял военную киберкоманду Cyber Command.
Беспрецедентный опыт генерала Накасоне в таких областях, как кибербезопасность,, поможет OpenAI в реализации своей миссии, заключающейся в том, чтобы искусственный интеллект приносил пользу всему человечеству - заявил председатель совета директоров OpenAI Брет Тейлор
Однако не все рады новой роли Накасоне в AI-компании, в которой он также будет занимать место в Комитете по безопасности. АНБ давно ассоциируется с наблюдением за гражданами США, а технологии с внедрённым ИИ уже обновляют и усиливают существующие опасения по поводу слежки. В этом контексте неудивительно, что бывший сотрудник АНБ и известный разоблачитель Эдвард Сноуден стал одним из самых громких критиков назначения Накасоне.
Они полностью сбросили маски: никогда не доверяйте OpenAI или его продуктам, есть только одна причина для назначения директора АНБ в совет директоров - это умышленное, рассчитанное предательство прав каждого человека на Земле. Если что, Вас предупредили. - написал Сноуден в посте на X.
Опасения по поводу прозрачности
Сноуден не единственный известный специалист по кибербезопасности, который выразил обеспокоенность новостью об OpenAI.
Я действительно думаю, что самое крупное приложение ИИ будет связано с массовым наблюдением за населением, Поэтому привлечение бывшего главы АНБ в OpenAI имеет определённую логику. - написал профессор криптографии Университета Джонса Хопкинса Мэттью Грин.
Назначение Накасоне произошло после серии громких отставок в OpenAI, включая видных исследователей безопасности, а также полного роспуска ныне несуществующей команды "Superalignment" по безопасности. Комитет по безопасности, теперь возглавляется генеральным директором компании Сэмом Альтманом, который в последние недели подвергся критике связанные с замалчиванием мнений бывших сотрудников. Также стоит отметить, что OpenAI регулярно подвергается критике за недостаток прозрачности в отношении данных, используемых для обучения своих многочисленных моделей ИИ.
В то же время, согласно Axios, многие на Капитолийском холме считают назначение Накасоне в OpenAI победой в области безопасности. Сам Накасоне в своём заявлении сказал, что приверженность миссии OpenAI тесно соответствует его собственным ценностям и опыту на государственной службе.
Я с нетерпением жду возможности внести свой вклад в усилия OpenAI, чтобы обеспечить безопасность и пользу искусственного интеллекта для людей всего мира. - добавил Накасоне.
Историческая справка и интересные факты
Пол Накасоне имеет богатый опыт в области кибербезопасности и шпионажа, что делает его назначение особенно значимым в контексте современных дискуссий о слежке и конфиденциальности. Служба АНБ, которую он возглавлял, известна своими методами массового сбора данных, что вызвало множество споров и разоблачений, таких как дело Эдварда Сноудена. Назначение Накасоне может указывать на стремление OpenAI усилить свою позицию в сфере безопасности, однако это также вызывает опасения по поводу возможного усиления контроля и надзора над пользователями технологий ИИ.