Політика етики AI

Преамбула

Sinaptic® AI створює інфраструктуру, яка робить штучний інтелект підзвітним. Ми вважаємо, що системи AI повинні працювати в межах, визначених людськими цінностями, правовими рамками та етичними принципами. Ця Політика етики AI формулює зобов'язання, які керують нашим проєктуванням, розробкою, впровадженням та моніторингом наших продуктів, включаючи Browser DLP, Sinaptic AI Intent Firewall® та Sinaptic® DROID+.

Ця політика розроблена з урахуванням EU AI Act (Регламент (ЄС) 2024/1689), Принципів ОЕСР щодо штучного інтелекту, Рекомендації ЮНЕСКО щодо етики штучного інтелекту та цінностей, закладених в українському інноваційному законодавстві через рамку Дія.City.

1. Зобов'язання щодо відповідального AI

Sinaptic зобов'язується розробляти системи AI, які є корисними, безпечними та узгодженими з інтересами людей. Наша основна місія — зробити AI підзвітним — відображає нашу переконаність у тому, що трансформаційний потенціал AI може бути реалізований лише тоді, коли довіра вбудована в саму архітектуру системи.

Ми вбудовуємо відповідальність на кожному етапі життєвого циклу AI:

• Етап проєктування: Етичні міркування є невід'ємною частиною вимог до продукту та архітектурних рішень. Кожна нова функція проходить етичну перевірку перед початком розробки.
• Етап розробки: Ми застосовуємо ретельне тестування, включаючи аудит упередженості, змагальне тестування та red-teaming, для виявлення та зменшення ризиків перед впровадженням.
• Етап впровадження: Ми надаємо вичерпну документацію, рекомендації щодо налаштування та захисні механізми для забезпечення відповідального використання нашими клієнтами.
• Етап моніторингу: Моніторинг після впровадження відстежує поведінку системи на предмет дрейфу, ненавмисних наслідків та нових ризиків.

2. Справедливість та недискримінація

Sinaptic зобов'язується створювати системи AI, які справедливо ставляться до всіх осіб та груп. Ми визнаємо, що системи AI можуть ненавмисно підтримувати або посилювати існуючі упередження, якщо вони не розроблені та не контролюються належним чином.

2.1 Заходи запобігання упередженості

• Ми проводимо оцінку впливу упередженості під час проєктування та розробки всіх моделей та алгоритмів AI.
• Навчальні набори даних перевіряються на репрезентативний баланс, і ми застосовуємо техніки усунення упередженості там, де виявлено дисбаланс.
• Наш Sinaptic AI Intent Firewall® застосовує правиловий та семантичний аналіз, який підлягає аудиту та не покладається на демографічні характеристики для прийняття рішень.
• Моделі класифікації Browser DLP тестуються на різноманітних типах контенту та мовах для забезпечення стабільної продуктивності.

2.2 Постійний моніторинг

Ми підтримуємо безперервні конвеєри моніторингу, що виявляють статистичні аномалії у виводах моделей, які можуть свідчити про упередженість, що виникає. Коли виявляються розбіжності, ми досліджуємо першопричини та впроваджуємо коригувальні заходи. Метрики справедливості переглядаються щоквартально нашим Комітетом з етики AI.

3. Прозорість

Ми вважаємо, що довіра вимагає прозорості. Sinaptic зобов'язується бути відкритим щодо того, як працюють наші системи AI, які дані вони використовують та які рішення приймають.

• Пояснюваність: Наші продукти надають чіткі пояснення рішень, прийнятих AI. Sinaptic AI Intent Firewall® фіксує конкретні правила політики та семантичні сигнали, що сприяли кожному рішенню дозволу/відмови. Browser DLP надає обґрунтування класифікації для позначеного контенту.
• Документація: Ми підтримуємо вичерпну технічну документацію для кожного продукту, включаючи картки моделей, що описують призначення, характеристики продуктивності, відомі обмеження та відповідні сценарії використання наших моделей AI.
• Розкриття інформації: Ми чітко розкриваємо, коли AI бере участь у прийнятті рішення або процесі. Користувачі агентів, розгорнутих через Sinaptic® DROID+, інформуються про те, що вони взаємодіють із системою AI, відповідно до вимог прозорості EU AI Act.
• Журнали аудиту: Усі дії AI в наших продуктах генерують незмінні журнали аудиту, які можуть бути переглянуті адміністраторами, спеціалістами з відповідності та аудиторами.

Ми публікуємо щорічний Звіт про прозорість з агрегованою статистикою продуктивності системи, дій з виконання політик, результатів аудиту упередженості та інцидентів. Цей звіт надається клієнтам та громадськості.

4. Людський нагляд

Продукти Sinaptic розроблені для доповнення, а не заміни людського прийняття рішень. Ми вбудовуємо механізми людського нагляду в кожен продукт:

• Sinaptic AI Intent Firewall®: Дії з високими ставками або неоднозначні дії автоматично ескалуються для перевірки людиною. Адміністратори можуть налаштовувати пороги ескалації та визначати, які категорії дій завжди потребують затвердження людиною.
• Browser DLP: Порушення політик можна налаштувати на сповіщення, блокування або запит підтвердження людиною перед застосуванням. Адміністратори зберігають повний контроль над поведінкою застосування.
• Sinaptic® DROID+: Розгорнуті агенти працюють у визначених межах можливостей. Оператори можуть впроваджувати робочі процеси з участю людини для критичних дій та можуть припинити роботу агентів у будь-який час за допомогою засобів аварійної зупинки.

Ми відкидаємо концепцію повністю автономного AI у контекстах з високими ставками. Наша архітектура забезпечує, що люди залишаються в контурі прийняття рішень для дій, які можуть мати значний вплив на окремих осіб, організації або суспільство.

5. Підзвітність

Підзвітність означає прийняття відповідальності за системи, які ми створюємо, та за результати, які вони дають. Sinaptic підтримує чіткі структури підзвітності:

• Комітет з етики AI: Внутрішній комітет, що складається з вищого керівництва, інженерів, юридичних радників та зовнішніх консультантів, переглядає сценарії використання AI з високим ризиком, розслідує інциденти та оновлює цю політику. Комітет засідає щомісяця та звітує генеральному директору.
• Реагування на інциденти: Коли система AI дає ненавмисний шкідливий результат, ми дотримуємось визначеного процесу реагування на інциденти, що включає негайне пом'якшення, аналіз першопричин, повідомлення постраждалих сторін та впровадження превентивних заходів.
• Механізми відшкодування: Особи або організації, які вважають, що зазнали негативного впливу від системи AI Sinaptic, можуть повідомити про свою проблему через нашу форму відповідності нижче або зв'язавшись з compliance@sinaptic.ai. Усі звернення розслідуються протягом 14 робочих днів.
• Аудити третіх сторін: Ми залучаємо незалежних аудиторів для оцінки наших систем AI на відповідність нашим заявленим етичним принципам, застосовним нормативним актам та найкращим галузевим практикам.

6. Суверенітет даних

Ми визнаємо, що суверенітет даних є фундаментальним питанням для організацій, що працюють у різних юрисдикціях. Підхід Sinaptic до суверенітету даних базується на наступних принципах:

• Право власності клієнта на дані: Дані клієнтів, оброблені нашими продуктами, належать виключно клієнту. Sinaptic не претендує на права власності, ліцензування або вторинного використання даних клієнтів понад те, що строго необхідно для надання Послуг.
• Обробка на пристрої: Browser DLP здійснює класифікацію даних на рівні браузера, мінімізуючи необхідність передачі конфіденційних даних на зовнішні сервери. Такий дизайн пріоритезує мінімізацію даних та поважає вимоги клієнта щодо резиденції даних.
• Гнучкість розгортання: Sinaptic® DROID+ є хмарно-агностичним та може бути розгорнутий у власній інфраструктурі клієнта, включаючи локальне середовище, забезпечуючи повний контроль над розташуванням та обробкою даних.
• Без навчання на даних клієнтів: Sinaptic не використовує дані клієнтів для навчання, дотюнінгу або покращення своїх моделей AI, якщо клієнт не надав явної, задокументованої згоди та дані не були належним чином анонімізовані.

7. Екологічне врахування

Ми визнаємо екологічний вплив систем AI, зокрема споживання енергії, пов'язане з навчанням та роботою великомасштабних моделей. Sinaptic зобов'язується мінімізувати наш екологічний слід:

• Ефективна архітектура: Наші продукти розроблені для обчислювальної ефективності. Sinaptic AI Intent Firewall® досягає затримки верифікації менше 5 мс завдяки оптимізованим конвеєрам виведення, зменшуючи обчислювальні ресурси, необхідні на кожен запит.
• LLM-агностичність: Підтримуючи кількох постачальників LLM, ми даємо клієнтам змогу вибирати моделі, які балансують вимоги до продуктивності з енергоефективністю, замість того, щоб за замовчуванням використовувати найбільшу доступну модель.
• Граничні обчислення: Класифікація Browser DLP на пристрої зменшує потребу в енергоємному хмарному виведенні.
• Партнери з інфраструктури: Ми надаємо пріоритет постачальникам хмарної інфраструктури, що працюють на відновлюваній енергії та публічно зобов'язалися досягти вуглецевої нейтральності.
• Вимірювання та звітність: Ми розробляємо методологію для вимірювання та звітності щодо вуглецевого сліду наших продуктів, з метою включення екологічних метрик у наш щорічний Звіт про прозорість.

8. Безперервне вдосконалення

Етика AI не є статичною дисципліною. З розвитком технологій з'являються нові ризики та можливості. Sinaptic зобов'язується:

• Регулярно переглядати та оновлювати цю політику у відповідь на нові нормативні акти, результати досліджень та зворотний зв'язок від зацікавлених сторін.
• Інвестувати в постійне навчання наших інженерних, продуктових та бізнес-команд з практик відповідального AI.
• Взаємодіяти з ширшою спільнотою етики AI, включаючи дослідників, регуляторів та організації громадянського суспільства.
• Сприяти розвитку інструментів та стандартів з відкритим кодом, що просувають відповідальну розробку AI.
• Запитувати та реагувати на зворотний зв'язок від клієнтів, працівників та громадськості щодо етичних наслідків наших продуктів.