Американська компанія, що займається розробкою штучного інтелекту, OpenAI, оновила свої протоколи безпеки, щоб захистити свою інтелектуальну власність від корпоративного шпигунства, враховуючи заяви про те, що компанія стала об’єктом уваги китайських конкурентів.
Про це повідомляє Financial Times.
Стартап із Сан-Франциско посилює свої заходи у сфері безпеки з минулого року. Ці дії активізувалися після того, як китайський стартап у галузі штучного інтелекту DeepSeek у січні представив конкурентну модель. OpenAI стверджує, що DeepSeek несанкціоновано скопіювала її моделі з використанням методики «дистиляції» (процес переведення знань з великої моделі до меншої), щоб запустити власну систему штучного інтелекту. Відтоді компанія впровадила нові заходи безпеки проти цієї стратегії, що змусило її суттєво посилити та «агресивно» розширити свої методи та команди безпеки.
У 2024 році до ради директорів OpenAI для контролю за захистом від кіберзагроз був призначений генерал армії США у відставці Пол Накасоне. У жовтні 2024 року компанія також найняла Дейна Стакі на посаду головного директора з інформаційної безпеки. Раніше він займав аналогічну посаду в компанії Palantir, відомій своєю співпрацею з американським урядом та силовими структурами.
Глобальна конкуренція у сфері штучного інтелекту призвела до зростання занепокоєння щодо спроб викрасти цю технологію, що може загрожувати економічній та національній безпеці. У 2024 році влада США попередила технологічні стартапи про те, що іноземні суперники, зокрема з Китаю, нарощують зусилля для отримання їхніх конфіденційних даних.
Джерела з OpenAI розповіли, що з літа 2024 року стартап почав впроваджувати більш сувору політику у своїх офісах у Сан-Франциско, щоб обмежити доступ співробітників до важливої інформації про технології. Ця політика, відома як «інформаційне тентування», значно зменшила кількість людей, які могли отримати доступ до нових алгоритмів. Наприклад, її застосували минулого року, коли OpenAI розробляла свою нову модель o1 під кодовою назвою «Strawberry». У той час співробітникам, які працювали над проєктом, було вказано перевіряти, чи є інші співробітники частиною «тенту Strawberry», перш ніж обговорювати його в спільних офісних приміщеннях.
Компанія тепер зберігає значну частину своїх технологій в ізольованих середовищах. Це передбачає, що комп’ютерні системи не підключені до Інтернету та відокремлені від інших мереж. В офісах компанії були введені біометричні перевірки: доступ до певних кімнат можливий лише після сканування відбитків пальців. Щоб захистити «ваги моделі» (знання, що отримуються з навчальних даних, завдяки яким модель формує прогнози та приймає рішення), OpenAI впроваджує політику «заборонено за замовчуванням» щодо інтернет-трафіку, що означає, що жоден пристрій не може підключатися до інтернету без спеціального схвалення.
Сполучені Штати та Китай опиняються в зростаючій стратегічній конкуренції, оскільки США вводять експортний контроль, щоб ускладнити для Китаю доступ до передових технологій. Водночас існує занепокоєння щодо зростання ксенофобії в американських технологічних компаніях, враховуючи велику кількість кваліфікованих працівників азійського походження.
Нагадаємо, американська компанія OpenAI, яка розробила чат-бот на основі штучного інтелекту ChatGPT, отримала контракт від Міноборони США на $200 мільйонів на постачання інструментів ШІ.