Євроінтеграція: регулювання штучного інтелекту в Україні та ЄС

Системи штучного інтелекту (ШІ) стрімко увірвалися у життя бізнесу та звичайних людей, змінюючи не тільки робочі процеси, але і повсякденні звички. Якщо раніше люди обмежувалися питанням «чи не замінить їх штучний інтелект», то зараз всі висловлюють набагато глибші занепокоєння. Це активізує спроби держави врегулювати відносини з використання ШІ.

РЕГУЛЮВАННЯ ШІ В УКРАЇНІ І ПЕРСПЕКТИВИ РОЗВИТКУ

Поточний стан

Незважаючи на відсутність єдиного нормативного акта, який би регулював відносини з використання ШІ, Україна вважається однією з провідних країн Східної Європи в цьому питанні. Це зумовлено, зокрема, наявністю Концепції розвитку штучного інтелекту в Україні (далі - Концепція) та Плану заходів з її реалізації. Окрім цього, у жовтні 2023 року Міністерство цифрової трансформації України презентувало Дорожню карту з регулювання штучного інтелекту в Україні (далі - Дорожня карта). Наявність документів стратегічного характеру на національному рівні була відзначена такими міжнародними рейтингами, як Government AI Readiness Index, завдяки чому Україна посіла 60 місце серед 193 проаналізованих країн у 2023 році. Країни оцінювалися за критеріями таких категорій:

- Урядова складова (Government Pillar), яка містить показники, як-от наявність візії з впровадження штучного інтелекту, наявність регуляторної та етичної бази, цифровий потенціал уряду, готовність та спроможність уряду до швидких змін та інновацій;

- Складова технологічного сектору (Technology Sector Pillar), яка охоплює оцінку рівня зрілості/розвиненості технологічного сектору, інноваційну спроможність та людський капітал країни;

- Складова даних та інфраструктури (Data and Infrastructure Pillar), до якої входять оцінка стану технологічної інфраструктури, якість даних для навчання ШІ, репрезентативність даних.

За результатами оцінювання урядової складової Україна здобула більше балів, ніж Болгарія, Словаччина, Ізраїль, Швейцарія, які загалом посіли вище місце в рейтингу. Такі показники свідчать про те, що Україна має значний потенціал і перебуває на правильному шляху розвитку в цій сфері.

Концепція розвитку ШІ в Україні

Повертаючись до Концепції розвитку штучного інтелекту, варто зауважити, що вона визначає дев'ять пріоритетних сфер для реалізації ШІ: освіта і професійне навчання, наука, економіка, кібербезпека, інформаційна безпека, оборона, публічне управління, правове регулювання та етика, правосуддя. Щодо кожної сфери наводиться перелік завдань, спрямованих на досягнення мети концепції. Незважаючи на те, що документ був схвалений наприкінці 2020 року, визначені ним пріоритетні сфери й завдання залишаються актуальними й наразі. Загалом реалізація Концепції передбачається на період до 2030 року.

Дорожня карта з регулювання ШІ в Україні

Заслуговує на увагу bottom-up-підхід до регулювання ШІ в Україні, який зазначається у Дорожній карті. На відміну від top-down-підходу, характерною рисою обраного варіанту є першочергове залучення учасників нижчого рівня (громадян, бізнесу) до побудови системи управління і прийняття відповідних рішень у заданій сфері. Тобто регулювання створюється на базі отриманого досвіду даних суб'єктів, а не «спускається» від законодавця. На перспективу застосування такого підходу сприятиме побудові системи регулювання, яка враховуватиме національні та культурні особливості українського бізнесу.

Реалізація bottom-up-підходу планується у два етапи. Перший етап спрямований на набуття практичного досвіду, оцінку ризиків, підвищення обізнаності громадян у цій сфері. Другий - запровадження нормативного регулювання, зокрема імплементація положень Регламенту ЄС про регулювання штучного інтелекту (далі - Акт про штучний інтелект) в українське законодавство. Водночас інтеграція європейського законодавства має відбуватися поступово, органічно поєднуючись з національними нормами, які будуть розроблені. Згідно з Дорожньою картою така інтеграція планується до 2027 року.

РЕГУЛЮВАННЯ ШІ В ЄС

Акт про штучний інтелект

Хоча використання технології ШІ розпочалося ще в 1980-х роках, врегулювання цих відносин саме на нормативно-правовому рівні наразі перебуває в активній фазі. У квітні 2021 року Європейська комісія висунула пропозицію щодо Регламенту про встановлення гармонізованих правил щодо штучного інтелекту (Акту про штучний інтелект), основною метою якого було б забезпечення захисту громадян від потенційної шкоди нової технології. Після тривалих обговорень і доопрацювань у березні цього року Акт про штучний інтелект був схвалений Європейським парламентом, а у травні - Радою ЄС.

В основі регламенту - ризик-орієнтований підхід, відповідно до якого чим вищий потенційний ризик заподіяння шкоди суспільству, тим суворіші правила і вимоги до суб'єктів (розробників, впроваджувачів, імпортерів, розповсюджувачів систем ШІ). Умовно системи штучного інтелекту можна поділити на три категорії:

- системи з обмеженим ризиком (limited risk);

- системи з високим ризиком (high risk);

- системи з неприйнятним ризиком (unacceptable risk).

Системи ШІ з обмеженим ризиком є під дією стандартних зобов'язань щодо дотримання прозорості. Так, наприклад, системи генеративного ШІ (Generative AI), які за загальним правилом відносяться до даної категорії, мають відповідати вимогам прозорості та нормам законодавства ЄС про авторське право (наявність позначення, що контент створено штучним інтелектом, запобігання створення незаконного контенту тощо).

До систем ШІ з високим ризиком висуваються додаткові вимоги щодо системи управління ризиками, якості наборів даних, на базі яких відбувається навчання моделей, наявності належної технічної документації тощо.

Насамкінець регламент забороняє використання систем з неприйнятним ризиком для прав людини. Це, наприклад, системи, які маніпулюють людьми або використовують їхні вразливі місця, що призводить до фізичної чи психологічної шкоди, системи «соціального скорингу», системи, які здійснюють біометричну ідентифікацію в реальному часі в загальнодоступних місцях для цілей правоохоронних органів.

Аналогічно Загальному регламенту про захист даних (GDPR) дія Акта про ШІ поширюється не лише на організації в межах ЄС, а й на розробників, впроваджувачів, імпортерів і розповсюджувачів систем ШІ за межами ЄС, якщо результати діяльності їхніх систем призначені для використання або використовуються в ЄС. Тобто, на відміну від GDPR, Акт про ШІ має не просто екстериторіальну дію, але й може поширюватися на суб'єктів, навіть якщо вони не мали намір провадити діяльність або таргетувати аудиторію в ЄС.

У разі невідповідності нормам Акта про ШІ до порушників можуть бути застосовані такі заходи відповідальності:

- за порушення заборони використання систем неприйнятного ризику - адміністративний штраф у розмірі до 35 млн євро або до 7 % загального світового річного обороту за попередній фінансовий рік (якщо порушником є підприємство), залежно від того, яка сума більше;

- за недотримання окремих положень, що стосуються операторів або нотифікованих органів (органів з оцінки відповідності) - адміністративний штраф у розмірі до 15 млн євро або до 3 % від загального світового річного обороту за попередній фінансовий рік (якщо порушником є підприємство), залежно від того, яка сума більше;

- за надання недостовірної, неповної або оманливої інформації на запит уповноважених органів або національних компетентних органів - адміністративний штраф у розмірі до 7,5 млн євро або до 1 % від його загальної суми світового річного обороту за попередній фінансовий рік (якщо порушником є підприємство), залежно від того, яка сума більше.

При визначенні суми штрафу мають бути дотримані принципи ефективності, пропорційності та переконливості санкцій. При цьому до стартапів, малих і середніх підприємств (SMEs) штрафи застосовуються пропорційно (сума або відсоток від обороту, залежно від того, яка сума менша).

Очікується, що Акт про ШІ має набути чинності у найближчі дні (через 20 днів після публікації в Офіційному журналі ЄС). Його положення у повному обсязі будуть застосовуватися через 24 місяці після набуття чинності, але деякі частини почнуть діяти раніше, зокрема:

- заборона систем штучного інтелекту, що становлять неприйнятний ризик, - через 6 місяців після набуття чинності;

- кодекси практики - через 9 місяців після набуття чинності;

- правила щодо систем ШІ загального призначення - через 12 місяців після набуття чинності.

Водночас системи високого ризику матимуть більше часу для адаптації, оскільки зобов'язання щодо них почнуть застосовуватися через 36 місяців після набуття чинності.

Тож провідні компанії вже активно вивчають майбутні нововведення і готуються до їхнього впровадження. Як показала практика Загального регламенту про захист даних (GDPR), 2-3 роки - це не настільки довго, як здається спочатку.

Конвенція про штучний інтелект

Окрім довгоочікуваного Акта про ШІ, у травні 2024 року Рада Європи схвалила Рамкову конвенцію про штучний інтелект і права людини, демократію та верховенство права (далі - Конвенція), яка є першою міжнародною юридично зобов'язуючою угодою у цій сфері.

Конвенція передбачає заснований на оцінці ризиків підхід до проєктування, розробки, використання та виведення з експлуатації систем ШІ. Це потребує ретельного розгляду будь-яких потенційних негативних наслідків використання таких систем. Документ визначає загальні зобов'язання, принципи щодо діяльності протягом життєвого циклу систем ШІ, засоби правового захисту, порядок оцінки та мінімізації ризиків і несприятливих впливів, порядок діяльності Конференції сторін (органу, відповідального за забезпечення ефективного виконання Конвенції, до складу якого входять представники учасників Конвенції) та її повноваження, обов'язки щодо звітності та міжнародної співпраці тощо.

Окрім цього, Конвенція покладає на її учасників обов'язок забезпечити функціонування незалежного механізму для нагляду за дотриманням положень Конвенції.

Конвенція охоплює використання систем ШІ в державному і в приватному секторах. Для приватного сектору передбачається два можливих способи дотримання її принципів і зобов'язань: сторони можуть обрати пряме зобов'язання відповідних положень Конвенції або, як альтернативу, вжити інших заходів для дотримання положень угоди, повністю дотримуючись своїх міжнародних зобов'язань щодо прав людини, демократії та верховенства права.

Сфера дії цієї Конвенції охоплює діяльність у рамках життєвого циклу систем ШІ, які потенційно можуть втручатися в права людини, демократію та верховенство права. При цьому, за певних умов, Конвенція не застосовується до науково-дослідницької діяльності, щодо систем ШІ, які ще не надані для використання, та щодо діяльності, пов'язаної із захистом національної безпеки країни - сторони Конвенції. Окремо зазначається, що питання, які стосуються національної оборони, не підпадають під дію цієї Конвенції.

Конвенція буде відкрита для підписання у Вільнюсі (Литва) 5 вересня для усіх бажаючих країн.

Судова практика в Україні

Допоки в ЄС всі зусилля спрямовані на нормативне врегулювання ШІ, в Україні вже з'являється перша судова практика щодо його використання. Так, ухвалою Верховного Суду у справі № 925/200/22 від 8 лютого 2024 року були визнані зловживанням процесуальними правами дії представника з подання заяви про роз'яснення постанови суду касаційної інстанції, в обґрунтовані якої була покладена «позиція» системи штучного інтелекту ChatGPT. Варто зазначити, шо суд оцінював дії заявника у сукупності, однак це не впливає на аргументацію і висновки суду в частині використання ChatGPT.

З обставин справи вбачається, що заявник просив «з метою правильного застосування норм права у спірних правовідносин роз`яснити термін «добровільного зобов`язання» сформованого Верховним Судом, обґрунтовуючи рішення в частині відмови у застосуванні способу захисту заявленому позивачем». В обґрунтуванні цієї необхідності заявник цитував норми Цивільного кодексу, положення підручнику з цивільного права, а також зміст терміна «добровільне зобов'язання», що надав ChatGPT. Такі дії заявника були визнані судом зловживанням процесуальними правами, оскільки результати ChatGPT, який не визнається джерелом достовірної науково доведеної інформації, були фактично поставлені на противагу судовим висновкам. «У такий спосіб заявник поставив під сумнів суддівський розсуд та судове тлумачення цього питання у рішенні, що набуло статусу остаточного, чим знехтував авторитетом судової влади», - зазначається в судовому рішенні. Дана ухвала також містить багато цікавих висновків щодо використання систем ШІ у сфері судочинства, необхідності розробки єдиних принципів і правил їхнього використання, поваги до судового процесу та етичної поведінки його учасників.

Водночас заслуговує на увагу Окрема думка судді Ганни Вронської в рамках цієї справи, яка вважає, що «посилання на відповіді, згенеровані ШІ ChatGPT, з метою обґрунтування своєї позиції, зважаючи зміст заяви, наведені в ній доводи та аргументи, Заявник не виявив неповагу до Суду та не поставив під сумнів його висновки, навпаки - прагнув з`ясувати та уточнити окремі висновки з питань, щодо яких висловився Верховний Суд. У заяві відсутні будь-які принизливі, образливі чи інші негативні висловлювання, відверта демонстрація неповаги до Суду тощо».

ВИСНОВКИ

Незважаючи на війну, що триває, та інші обставини, Україна має всі умови для побудови ефективної системи регулювання відносин з використання ШІ, яка буде відповідати кращим світовим практикам і європейському законодавству. Наразі зусилля держави мають бути спрямовані на нарощення практичного досвіду з використання систем ШІ, який надалі буде основою для нормативного регулювання.

Аліна Січкар,

старша юристка KPMG в Україні