- Sztuczna inteligencja (AI) jest już szeroko stosowana w bankowości, ubezpieczeniach i sektorze fintech – wpływa na decyzje kredytowe, personalizację ofert i kontakt z klientem.
- AI niesie za sobą potencjalne korzyści, ale też istotne ryzyka dla konsumentów: brak transparentności, automatyczne decyzje bez kontroli człowieka czy dyskryminację algorytmiczną.
- Co mogą zrobić konsumenci, jeśli decyzja instytucji finansowej została podjęta automatycznie?
- O tym wszystkim w Raporcie o sztucznej inteligencji w finansach przygotowanym przez ekspertów Rzecznika Finansowego przy wsparciu członków Doradczego Komitetu Naukowego oraz praktyków wykorzystania AI.
Rzecznik Finansowy opublikował nowy raport pt. AI w finansach. Zastosowanie i ryzyko dla konsumentów oraz uprawnienia wobec instytucji finansowych (dostępny pod poniższym linkiem). Dokument, którego współautorami są członkowie Doradczego Komitetu Naukowego przy Rzeczniku Finansowym – prof. Krzysztof Jajuga oraz prof. Krzysztof Waliszewski – stanowi odpowiedź na rosnącą obecność technologii sztucznej inteligencji w sektorze finansowym. Autorzy przedstawili zarówno jej potencjał, jak i zagrożenia z punktu widzenia konsumenta.
– Nie możemy patrzeć na sztuczną inteligencję wyłącznie przez pryzmat innowacji lub zagrożeń. Naszą rolą jako Rzecznika jest wskazywanie, gdzie technologia powinna służyć konsumentom, a gdzie może prowadzić do nadużyć. Konsument musi wiedzieć, jakie ma prawa, nawet gdy jego rozmówcą nie jest człowiek, ale algorytm – mówi Michał Sas, dyrektor w Departamencie Analiz i Legislacji Biura Rzecznika Finansowego.
Zagadnienia, które opisuje raport
Opracowanie w przystępny sposób wyjaśnia podstawowe pojęcia z zakresu sztucznej inteligencji oraz wskazuje, jak technologie te są już wykorzystywane w praktyce przez banki, firmy ubezpieczeniowe czy platformy inwestycyjne. W szczególności dokument RF zawiera m.in.:
- wyjaśnienie pojęć sztucznej inteligencji oraz kluczowych technologii takich jak: uczenie maszynowe (machine learning), głębokie uczenie (deep learning) oraz wielkie modele językowe (LLM);
- opis praktycznego zastosowania AI w finansach, m.in. w: ocenie ryzyka kredytowego, automatycznej obsłudze klienta oraz analizie zachowań konsumenckich i personalizacji ofert;
- analizę zagrożeń i wyzwań, takich jak: brak transparentności działania algorytmów, ryzyko błędnych decyzji podejmowanych przez AI, a także potencjalna dyskryminacja lub naruszenie prywatności konsumentów;
- wskazanie obowiązków instytucji finansowych oraz praw przysługujących konsumentom – także w kontekście relacji z „cyfrowym doradcą” czy algorytmem decyzyjnym.
AI a odpowiedzialność instytucji finansowych
Sztuczna inteligencja staje się coraz bardziej powszechna – także tam, gdzie podejmowane są decyzje finansowe dotyczące naszych kredytów, polis czy inwestycji. Autorzy raportu analizują m.in. w jaki sposób AI może wpływać na ocenę zdolności kredytowej, analizę ryzyka ubezpieczeniowego, czy też rekomendowanie produktów finansowych.
Wskazują również, jakie obowiązki spoczywają na instytucjach finansowych, gdy wprowadzają rozwiązania oparte na sztucznej inteligencji. W tym jakie mają obowiązki informacyjne, oraz jak powinny zapewnić transparentność działania systemów oraz odpowiednie procedury nadzoru. Zwracają uwagę, gdzie należy zachować ostrożność.
– Jeśli mówimy o szansach i zagrożeniach jakie może generować dla konsumentów stosowanie przez firmy inwestycyjne technologii opartych na sztucznej inteligencji to dobrze je ilustrującym przykładem jest robo-doradztwo. Z jednej strony upowszechnia dostęp do doradztwa inwestycyjnego oraz pozwala konsumentom poznać i porównać szeroką gamę globalnie nawet oferowanych produktów. Z drugiej – działa często według schematów oraz ogranicza bądź eliminuje bezpośredni kontakt z tradycyjnymi doradcami inwestycyjnymi co może prowadzić do niedopasowania oferty do indywidualnych potrzeb – zwraca uwagę prof. Krzysztof Waliszewski.
Ważna edukacja konsumentów
W tym kontekście kluczowe znaczenie ma edukacja konsumentów oraz promocja odpowiedzialnego podejścia do wdrażania innowacji przez instytucje finansowe.
– Technologie oparte na sztucznej inteligencji mogą z dobrym skutkiem wspierać konsumentów w podejmowaniu decyzji finansowych. Należy jednak pamiętać, że są to wciąż narzędzia, których jakość i skuteczność zależna jest od wielu czynników. Dlatego niezwykle istotną kwestią jest zrozumienie przez użytkownika przeznaczenia i sposobu funkcjonowania danego narzędzia, którego nie osiągniemy bez odpowiedniej transparentności po stronie usługodawców – podkreśla prof. Krzysztof Jajuga.
– Z punktu widzenia konsumenta szczególnie istotne jest, by wiedzieć, że nawet jeśli decyzję podejmuje algorytm, nie zwalnia to instytucji finansowej z odpowiedzialności. Konsument nadal ma prawo do informacji, do wyjaśnień, a w wielu przypadkach – także do odwołania od decyzji podjętej automatycznie.
Pamiętać o prawach konsumentów
Autorzy raportu podkreślają, że technologia sztucznej inteligencji rozwija się w niespotykanym dotąd tempie, co powoduje, że regulacje prawne często nie nadążają za zmianami technologicznymi.
Apelują, by wdrażanie rozwiązań opartych na AI zawsze odbywało się z poszanowaniem praw konsumentów, a nie tylko w pogoni za efektywnością i innowacyjnością.
W raporcie wskazano również obszary, które wymagają dalszej analizy prawnej oraz ewentualnej interwencji ustawodawczej – np. konieczność zapewnienia realnej możliwości zakwestionowania decyzji podjętej przez algorytm czy zapewnienia niezależnego nadzoru nad systemami decyzyjnymi.
Pobierz raport: AI w finansach – pełna treść (PDF) pod poniższym linkiem.