Jak ustawa UE o sztucznej inteligencji wpłynie na instytucje finansowe

Ustawa UE o sztucznej inteligencji, która weszła w życie 1 sierpnia 2024 r., jest znaczącym wydarzeniem legislacyjnym dla instytucji finansowych (FI). Ponieważ przepisy zaczną obowiązywać w okresie od sześciu do 36 miesięcy, większość zasad ustawy będzie egzekwowalna po dwóch latach. Ma ona również duże znaczenie, zwłaszcza dla FI korzystających z systemów AI wysokiego ryzyka, takich jak modele oceny kredytowej i narzędzia oceny ryzyka. pisze David Salloum, dyrektor ds. prawnych w Eastnets.

Potencjał AI w finansowaniu handlu, zarządzaniu ryzykiem i walce z przestępczością finansową jest ogromny. Jednak skuteczne regulacje są potrzebne, aby zapewnić zaufanie i chronić podstawowe prawa. Ustawa UE o AI jest kluczowym krokiem w tym kierunku, zapewniając bezpieczną i etyczną ewolucję AI.

Kluczowe elementy

Ustawa dotyczy systemów AI sprzedawanych, używanych lub wpływających na osoby w UE, w tym z krajów spoza UE. Przyjmuje podejście oparte na ryzyku, kategoryzując aplikacje AI na podstawie poziomów ryzyka, z rygorystycznymi wymaganiami dla przypadków użycia wysokiego ryzyka, takich jak infrastruktura krytyczna i egzekwowanie prawa, wśród listy ośmiu obszarów.

Systemy AI wysokiego ryzyka muszą spełniać surowe standardy jakości danych i zarządzania. Gwarantuje to, że oprogramowanie nie jest szkolone na słabych lub niekompletnych danych, które mogłyby prowadzić do niekorzystnych rezultatów. Dokumentacja, możliwość śledzenia i przejrzystość są wymagane, aby zapewnić możliwość audytu AI i wyjaśnienia jej decyzji. Nadzór ludzki jest wymagany, aby umożliwić interwencję w decyzje AI, co jest kluczowe w przypadku zastosowań w diagnozach medycznych lub sprawach sądowych.

Ponadto ustawa nakazuje używanie syntetycznych lub zanonimizowanych danych podczas trenowania modeli AI w celu wykrywania i korygowania stronniczości. Syntetyczne dane, sztucznie tworzone, a nie zbierane z rzeczywistych zdarzeń, pomagają zapewnić, że systemy AI są uczciwe i dokładne. Jeśli te metody zmniejszają stronniczość, dostawcy systemów AI muszą ich używać.

Konsekwencje dla instytucji finansowych

Dla instytucji finansowych przestrzeganie tych wymogów jest kluczowe. W związku z tym należy podjąć pewne ważne działania. Po pierwsze, jeśli jeszcze nie istnieje, należy utworzyć organ zarządzający AI. Musi on odpowiadać za wszelkie wykorzystanie AI w całej firmie i powinien starannie oceniać systemy, aby określić ich klasyfikację zgodnie z ustawą.

Na przykład systemy AI wykorzystywane do oceny zdolności kredytowej lub oceny wiarygodności kredytowej prawdopodobnie zostaną sklasyfikowane jako wysokiego ryzyka ze względu na ich znaczący wpływ na dostęp osób fizycznych do zasobów finansowych. Z drugiej strony Parlament Europejski proponuje, aby systemy AI wdrażane w celu wykrywania oszustw w usługach finansowych nie były uznawane za wysokiego ryzyka na mocy ustawy. Ten niuans pozwala instytucjom finansowym na dalsze innowacje w zakresie wykrywania oszustw przy jednoczesnym zapewnieniu zgodności z nadrzędnymi zasadami ustawy.

Po drugie, ta grupa powinna zapewnić ludzki nadzór nad wszystkimi systemami, aby zapewnić, że AI jest używane w sposób przejrzysty, etyczny, uczciwy, bezpieczny i z kontrolą prywatności. Na przykład, gdy oprogramowanie wchodzi w interakcję z ludźmi, musi ujawnić, że jest AI. Ponadto, treści generowane przez AI muszą być wyraźnie oznaczone, aby uniknąć błędnego przedstawienia. Użytkownicy muszą być również informowani, gdy AI używa rozpoznawania emocji lub kategoryzacji biometrycznej.

Wreszcie, każdy organ zarządzający powinien również zapewnić wysoką jakość danych wejściowych, aby zminimalizować stronniczość i zapobiec dyskryminacyjnym wynikom. Musi również być w 100% przejrzysty w swojej pracy, rejestrując swoje decyzje i udostępniając je w razie potrzeby.

Niedopełnienie wymogów ustawy może skutkować grzywnami. Europejska Rada ds. Sztucznej Inteligencji będzie nadzorować wdrażanie, a organy krajowe będą odpowiedzialne za nadzór i egzekwowanie. Będzie również publiczna baza danych dla systemów AI wysokiego ryzyka, aby zapewnić przejrzystość i nadzór.

Długoterminowe konsekwencje

Systemy AI ogólnego przeznaczenia, takie jak te używane w rozpoznawaniu obrazu i mowy, zostaną omówione w przyszłych aktach prawnych. Elastyczne ramy ustawy AI Act pozwalają jej ewoluować wraz z technologią AI, zapewniając, że nowe osiągnięcia są odpowiednio regulowane.

Instytucje finansowe muszą być na bieżąco z tymi zmianami, gdyż wpłyną one na sposób wykorzystania sztucznej inteligencji w celu zwiększenia wydajności i innowacji w obszarach takich jak przetwarzanie dokumentów, zarządzanie ryzykiem i zgodność z przepisami.

Równoważenie innowacji i regulacji

Podczas gdy nadmierna regulacja może utrudniać innowację, ustawa UE o sztucznej inteligencji zapewnia bardzo potrzebny zestaw wytycznych dla szybko rozwijającej się technologii. Z jednej strony ma na celu zapewnienie bezpieczeństwa systemów sztucznej inteligencji, chroniąc prawa ludzi. Z drugiej strony zwiększy innowacyjność i inwestycje dzięki przejrzystości i otwartości, których wymaga ustawa. Deweloperzy będą mogli lepiej współpracować i ulepszać oprogramowanie.

Jednak regulacja musi pozostać elastyczna i poruszać się z tą samą prędkością co technologia. Decydenci polityczni muszą brać pod uwagę opinie i współpracować z przemysłem; zwłaszcza z sektorami takimi jak usługi finansowe, gdzie przepisy mają największy wpływ. I chociaż względy etyczne muszą zawsze znajdować się w centrum regulacji, musi to być zrównoważone z pozytywnym zachęcaniem do technologii.

Gdy rozpocznie się odliczanie do zgodności, FI powinny być pozytywne. Niewątpliwie jest praca do wykonania pod względem zgodności, ale wynik będzie lepszy dla wszystkich: deweloperów, firm i konsumentów.

* Informacje zawarte w tym wpisie na blogu mają charakter wyłącznie ogólnoinformacyjny i nie stanowią porady prawnej. Treść opiera się na interpretacji autora i może nie odzwierciedlać najnowszych zmian prawnych. Czytelnicy powinni zasięgnąć profesjonalnej porady prawnej w przypadku konkretnych wątpliwości. Wszelkie prawa do treści stron trzecich, do których się odwołują, pozostają w posiadaniu ich autorów.

Udostępnij ten artykuł: