Профессор Карнеги-Меллон вошел в состав совета директоров OpenAI
Колтер, чьи исследования сосредоточены преимущественно на безопасности ИИ, становится "бесценным техническим директором для управления OpenAI", как отмечается в официальном блоге компании.
Безопасность является одной из главных тем в OpenAI, особенно на фоне недавних изменений в руководстве компании. Назначение Колтера произошло через несколько месяцев после ухода нескольких ключевых сотрудников и руководителей OpenAI, включая соучредителя Илью Суцкевера, которые занимались вопросами безопасности.
Многие из ушедших сотрудников входили в команду «Superalignment», которая специализировалась на разработке методов управления «суперинтеллектуальными» ИИ-системами. Источники сообщают, что команде не предоставили обещанные вычислительные ресурсы, что могло послужить причиной таких увольнений.
Колтер также войдет в Комитет по безопасности и защите OpenAI и будет работать вместе с другими членами совета директоров, такими как Брэт Тейлор, Адам Д’Анджело, Пол Накасоне, Николь Селигман и генеральный директор компании Сэм Альтман.
Комитет отвечает за рекомендации по вопросам безопасности и защиты всех проектов OpenAI, но, как отмечалось в одном из майских отчетов, этот состав в включает внутренних сотрудников компании, и вызывает вопросы у некоторых экспертов по поводу его эффективности.
«Зико привносит глубокие технические знания и перспективы в безопасность и надежность ИИ, которые помогут нам гарантировать, что искусственный интеллект принесет пользу всему человечеству» - заявил председатель совета директоров OpenAI, Брет Тейлор.
Зико Колтер (Zico Kolter) ранее занимал должность главного научного сотрудника по данным в компании C3.ai, получил степень PhD по компьютерным наукам в Стэнфордском университете в 2010 году и прошел постдокторскую стажировку в Массачусетском технологическом институте (MIT) с 2010 по 2012 год. Его исследования включают демонстрацию возможностей обхода существующих средств защиты ИИ с помощью автоматизированных методов оптимизации.
Колтер также активно сотрудничает с промышленными предприятиями, являясь в настоящее время "главным экспертом" в компании Bosch и главным техническим советником в стартапе Gray Swan.
