23.06.2023
Регулаторни лаборатории за изкуствен интелект – в търсене на правилния подход
Въпреки че Парламентът инвестира значителни усилия в разработването на текста на регламента и гарантирането, че системите с ИИ са безопасни, прозрачни, екологични, недискриминационни, проследими и наблюдавани от хората, той също така призна значението му за улесняването на иновациите. Това е видно от редица промени, особено по отношение на формирането и използването на т. нар. регулаторни лаборатории (regulatory sandboxes).
В търсене на дефиниция
Вероятно едно от най-убедителните доказателства в това отношение е предложеното изменение на чл. 1 относно приложното поле на регламента, съгласно което създаването на регулаторни лаборатории се възприема като мярка за подкрепа на иновациите, с особен акцент върху малките и средните предприятия. Не е изненадващо, че Парламентът следва подхода на Съвета на Европейския съюз и предлага определението за регулаторна лаборатория да бъде включено в чл. 3, а не да бъде извеждано по тълкувателен път от чл. 53, както беше в предложението на Комисията.
Комисия | Съвет | Парламент |
„контролирана среда, която улеснява разработването, изпитването и признаването на иновативни системи с ИИ за ограничен период от време преди пускането им на пазара или въвеждането им в експлоатация съгласно конкретен план“ (подчертаването е добавено) | „конкретна рамка, създадена от национален компетентен орган, която предлага на доставчиците или потенциалните доставчици на системи с ИИ възможността да разработват, обучават, валидират и изпитват, когато е целесъобразно в реални условия, иновативна система с ИИ съгласно конкретен план за ограничен период от време под регулаторен надзор.“ (подчертаването е добавено) | „контролирана среда, създадена от публичен орган, която улеснява безопасното разработване, изпитване и признаване на иновативни системи с ИИ за ограничен период от време преди пускането им на пазара или въвеждането им в експлоатация съгласно конкретен план под регулаторен надзор;“ (подчертаването е добавено) |
Таблица 1. Сравнение на дефинициите
Независимо от това, Таблица 1 показва, че има текуща и понастоящем разгорещена дискусия относно самото естество на регулаторните лаборатории. Интересното е, че определението за регулаторна лаборатория във Великобритания, откъдето всъщност произхожда този инструмент, е много по-практически насочено. Обикновено там се говори просто за „безопасно пространство", което е предназначено за изпълнението на определени задачи, като например да позволи на фирмите да тестват иновативни предложения на пазара с реални потребители. Докладът за дигиталните технологии на сър Патрик Валанс, който често се цитира в неотдавнашната Бяла книга за изкуствения интелект в Обединеното кралство, определя регулаторните лаборатории като „среда за тестване в реални ситуации с добре дефинирано облекчаване на правилата, за да позволи на иноваторите и предприемачите да експериментират с нови продукти или услуги под засилен регулаторен надзор без риск от глоби или отговорност. Те обикновено се управляват от регулатор за ограничен период от време и се стремят да информират за създаването на правила.” Това определение, произхождащо от богатия опит на Обединеното кралство с регулаторните пясъчници в различни области, е в рязък контраст с понятието „контролирана среда", залегнало в проекта на Законодателния акт за ИИ.
Общата позиция на Съвета се опита да смекчи това положение, като предложи тестване в „реални условия“ там, където е уместно, но Парламентът се върна към подхода на контролираната среда. Освен това, изричното изискване регулаторната лаборатория да бъде създадена от публичен орган и умишленото включване на думата „безопасно" в определението показва много малко същинска подкрепа за иновациите и дори своеобразен страх от „игра в пясъка“. Това се подкрепя и от добавянето на определението „контролиран“ в съображение 71, както и от подчертаването и значителното преувеличаване на функцията на регулаторната лаборатория за спазване на регулаторните изисквания в съображение 72. Начинът, по който този блок от текст описва целта на регулаторната лаборатория, пренебрегва реалния проблем с мащаба и скалируемостта на регулаторните лаборатории и големите разходи, дори в контекста на традиционна национална регулаторна лаборатория, включваща само един регулатор. Нещо повече, включването на целите на регулаторните лаборатории в новия чл. 53, параграф 1д, предложен от Парламента, по-скоро обслужва основно нуждите на регулаторите. Предложение б), твърдящо, че регулаторните лаборатории имат за цел да „позволят и улеснят изпитването и разработването на новаторски решения, свързани със системите с изкуствен интелект“, не е подкрепено с никакви емпирични доказателства. Твърдението, че насоките за нормативно съответствие улесняват иновациите, не съответства на нуждите, неколкократно изразени от индустрията. Въпреки че тези насоки играят определена роля, съществуват по-големи пречки пред европейските иновации като цяло, в частност в областта на ИИ. Сред тях са липсата на среда, насърчаваща инвестициите с рисков капитал, липсата на достъп до тестови пространства, необходимосттта от специфични набори от данни и регулаторната свръхтежест.
По същество проектът на Парламента е насочен към възможно най-бързото създаване на регулаторни лаборатории за ИИ. Този ефект следва да се постигне чрез придаването на задължителен характер на тези лаборатории за държавите-членки в чл. 53 и изискването във всяка държава членка да започне да функционира поне една регулаторна лаборатория за ИИ към момента, в който регламентът започне да се прилага. В чл. 53 се предвижда също така възможността такава регулаторна лаборатория да бъде създадена съвместно между една или няколко държави членки (или от Комисията и Европейския надзорен орган по защита на личните данните поотделно или съвместно с държавите-членки). Тази част от разпоредбата е изключително озадачаваща. Ако я тълкуваме систематично и граматически, възможността няколко държави-членки да бъдат въвлечени в регулаторна лаборатория следва да се разглежда като начин за облекчаване на изискването за задължителното създаване на същата, особено за държави-членки като България, които нямат никакъв опит с изпреварващото регулиране. Трансграничните и трансюрисдикционните регулаторни лаборатории обаче са много по-предизвикателни и понастоящем ни липсват примери за успешен модел за постигане на това. Дори в областта на финансовия надзор, където регулаторните лаборатории се прилагат най-отдавна и от значителен брой юрисдикции, подобни инициативи на трансгранични лаборатории и такива с множество юрисдикции имат много ограничен успех. Докладите на Глобалната мрежа за финансови иновации относно трансграничните им тестове идентифицират редица проблеми не само по отношение на участниците и техните очаквания и нужди, но и по отношение на координацията между участващите органи. Това още веднъж повдига въпроса за съотношението между разходите и резултатите в регулаторната лаборатория.
Стимулите
Парламентът предлага да се добави нов параграф към чл. 53, параграф 1е, в който се опитва да предложи някои стимули на потенциалните доставчици на системи с ИИ, които разработват високорискови системи, да участват в регулаторните лаборатории. Разпоредбата предписва, че създаващите органи „предоставят на потенциалните доставчици на системи с ИИ, които разработват високорискови системи с ИИ, насоки и надзор за това как да изпълнят изискванията, определени в настоящия регламент, така че системите с ИИ да могат да напуснат лабораторията, като се предполага, че отговарят на специфичните изисквания на настоящия регламент, които са били оценени в рамките на лабораторията. Доколкото системата с ИИ отговаря на изискванията при напускане на лабораторията, се приема, че тя е в съответствие с настоящия регламент.“
Тази конкретна разпоредба може да създаде няколко предизвикателства. На първо място, такава презумпция[1] би могла да навреди на правната сигурност. От една страна, тестването на високорискови системи с ИИ в контролирана среда в контекста на регулаторната лаборатория едва ли би могло да бъде представително за това как една и съща система би могла да функционира в реална среда. Нещо повече, този подход е в пряко противоречие със съвременните практики за разработка на софтуер, където в момента доминират методологии, основани на принципите на непрекъсната интеграция и непрекъснато внедряване (Continuous Integration and Continuous Delivery) (CI/CD). CI/CD позволява прилагането на итеративен процес, който постоянно се актуализира с обратна връзка от крайните потребители (както и други звена по веригата) и по този начин подобрява способността за справяне с откриването на грешки и системната интеграция. За разлика от добрите практики в индустрията, регламентът се опитва да „замрази“ нормативното съответствие на дадена система с ИИ в конкретен момент от време. Това противоречи на принципите на съвременното софтуерно инженерство, особено на практиките за разработване на ИИ.
На следващо място, Парламентът има твърде голямо доверие в процеса и способностите на регулатора. Случаи като скандала с емисиите на Volkswagen показват, че не е невъзможно регулаторът да бъде подведен и въпреки че не трябва да предполагаме, че дадена компания действа недобросъвестно, не следва и напълно да отхвърляме тази възможност. Установяването на презумпция за нормативно съответствие би могло да послужи като параван за такива нарушения, особено ако тя не е снабдена с поне някакъв срок на валидност, например от 6 месеца до 1 година. Нещо повече, неясната формулировка на разпоредбата заблуждава относно юридическата същност на тази правна фигура, напр. дали става въпрос за процесуална или материалноправна презумпция, оборима или необорима, а също и върху кого се прехвърля тежестта на доказване.
Друг интересен стимул, който беше предложен в първоначалната версия на Комисията, е възможността участник в регулаторната лаборатория да обработва лични данни, които са били законно събрани за други цели. Последващата обработка в лабораторията е с цел разработване и тестване на определени иновативни системи с ИИ при условия, които са изрично изброени и включват: конкретната цел на системата за ИИ, необходимост, мониторинг, гаранции за обработката на личните данни, включително незасягане на правата на субектите на данни и заличаване на данните след изтичане на срока на съхранение или прекратяване на участието в регулаторната лаборатория, както и задължения за прозрачност (чл. 54, параграф 1).
Парламентът предлага някои незначителни промени в чл. 54, като най-съществената вероятно е в параграф 1, буква a), с която се определят целите, за които системите с ИИ трябва да бъдат разработени, за да се възползват разработчиците от изключението от правилата за защита на личните данни. В проекта на Комисията точка i) съдържа дейностите по „предотвратяването, разследването, разкриването или наказателното преследване на престъпления или изпълнението на наложените наказания, включително предпазването от и предотвратяването на заплахи за обществената сигурност, под контрола и отговорността на компетентните органи.“ Парламентът предлага пълното премахване на тази точка в съответствие с общия си подход за ограничаване на възможностите на правоохранителните и правоприлагащите органи да използват непропорционално системите с ИИ.
Замъци от пясък
Освен страхотна песен на Джими Хендрикс, тази метафора илюстрира общия подход на Законодателния акт за ИИ към регулаторните лаборатории. Първоначалното предложение на Комисията беше неясно, но поне сигнализира желанието да променим досегашния подход на регулиране чрез по-гъвкави и изпреварващи, а не реактивни инструменти. За съжаление това предизвика такъв интерес, който доведе до това, че „регулаторните лаборатории“ вече се смятат за отговор на всеки въпрос. Нещо, което те със сигурност не са. Реалните нужди на бизнеса бяха заметени под килима и вместо това получихме силно бюрократичен, сложен и изключително скъп процес, подобен на регулаторна лаборатория, който застрашава правната сигурност и предлага малко или никакви стимули за участниците в него. Според мен регулаторните лаборатории трябва да предлагат повече свобода и да бъдат в по-малък, локален мащаб. Много държави-членки имат малък или никакъв опит с регулаторните лаборатории. Свръхамбицията на тези държави често води до създаването на напълно неизползваеми инструменти, които всъщност биха могли да бъдат от голяма полза, ако бъдат напаснати правилно. Цитирайки отново Джими Хендрикс:
И така замъците, направени от пясък,
в крайна сметка падат в морето.
[1] При сравнение с английската версия на предложението прави впечатление, че последната използва дословно термина „презумпция“ (presumption). Френската версия има подобна формулировка (situation de présomption), както и италианската (presumendo la conformità). Въпреки известната неяснота на тази формулировка, настоящият анализ ще разгледа ситуацията, в която разпоредбата в действителност установява презумпция.