| Cele | Zapewnienie integralności wewnętrznych regulacji oraz zgodności z prawnymi i branżowymi regulacjami zewnętrznymi, przyspieszenie weryfikacji compliance |
| Czas | 6 miesięcy |
| Zakres prac | Consulting w zakresie generatywnej AI Development systemów i aplikacji opartych o generatywną AI |
| Efekty | MVP umożliwiające sprawdzanie zgodności dokumentów w obrębie departamentu, między departamentami oraz porównywanie z dokumentami zewnętrznymi. |
| Technologie | GenAI Meta Llama 3, Langchain, Langsmith, PostgreSQL, Java, Angular, REST API |
| Dla kogo | Klienci o wysokiej zmienności regulaminów, podmioty regulowane, takie jak banki, pośrednicy, ubezpieczenia |
Potrzeba
Określono potrzebę wdrożenia aplikacji, która weryfikowałaby wewnętrzne regulacje w banku, szczególnie w sektorze inwestycyjnym. Weryfikacja powinna polegać na sprawdzeniu, czy poszczególne dokumenty regulacyjne nie są ze sobą wzajemnie sprzeczne oraz analizie ich zgodności z wybranymi regulacjami zewnętrznymi w kontekście formalnym. Aktualnie dokumenty są sprawdzane ręcznie, co jest czasochłonne i generuje ryzyka prawne a także finansowe.
Wyzwania
Wdrożenie aplikacji wiąże się z kilkoma istotnymi wyzwaniami, zarówno technologicznymi jak i operacyjnymi. Przede wszystkim regulacje bankowe, w tym inwestycyjne, są bardzo złożone i dynamiczne. Pojawia się potrzeba nie tylko analizowania treści, ale również stworzenia odpowiedniego repozytorium wszystkich dokumentów wraz z ich wersjonowaniem. Ponadto, niektóre sprzeczności, które ma wykryć narzędzie mają charakter bardzo subtelny i mogą wynikać z pewnych interpretacji. Wymaga to zastosowania większych i bardziej dokładnych modeli językowych. Aplikacja musi być ponadto wystarczająco wydajna, by móc obsługiwać duże ilości dokumentów. Jednym z wyzwań jest więc też zapewnienie skalowalności.
Rozwiązanie
W pierwszej kolejności należy zapewnić odpowiednie repozytorium dokumentów, dzięki czemu możliwa jest ich kategoryzacja (m.in. podział na departamenty banku i określenie ich domeny tematycznej) oraz wersjonowanie. Zarządzanie takim repozytorium jest częścią aplikacji. Przyjazny interfejs ułatwia wszystkie kluczowe operacje w tym zakresie. Do samej analizy dokumentów wymagany jest LLM, który zapewnia odpowiednią wydajność i dokładność. W celu jego wybrania trzeba wykonać benchmarking kilku dużych modeli dzięki m.in. bibliotekom Langchain i Langsmith na wybranej grupie dokumentów. Po wstępnym wyborze modelu warto przeprowadzić jego dokładną ewaluację i za pomocą prompt engineeringu poprawić działanie w odniesieniu do znalezionych skrajnych przypadków, z którymi model radził sobie zauważalnie gorzej. Ostatnim ogniwem całego rozwiązania jest obudowanie modelu tak, by można było go używać z poziomu interfejsu aplikacji. By zapewnić wydajność i zredukować koszty utrzymania, użytkownik może wybrać pojedynczy dokument lub grupę dokumentów do porównania z dokumentami np. pojedynczego departamentu bądź z pojedynczej domeny tematycznej czy pojedynczym zewnętrznym aktem prawnym. Dzięki temu model nie musi za każdym razem przeglądać wszystkich dokumentów jednocześnie. Funkcjami dodatkowymi rozwiązania jest porównywanie różnych wersji dokumentów z wyszczególnieniem zmian między wersjami oraz rekomendacje w przypadku stwierdzenia niezgodności między dokumentami.
Wnioski
Wdrożenie omawianej aplikacji przynosi wiele korzyści dla poszczególnych departamentów banku, w tym działu inwestycyjnego i compliance. Czas potrzebny na weryfikację zgodności regulacji jest zmniejszony o 70%, mitygowane jest również ryzyko błędów wynikających z ewentualnych pomyłek. Automatyzacja weryfikacji pozwala na szybsze identyfikowanie potencjalnych problemów zanim jeszcze wpływają na funkcjonowanie procesów. Dzięki wykorzystaniu sztucznej inteligencji, bank zyskuje więc narzędzie, które umożliwia szybką adaptację do zmieniających się regulacji prawnych oraz minimalizuje ryzyko operacyjne, co jest kluczowe w złożonym środowisku finansowym.
