EMA i szefowie agencji ds. leków (HMA) opublikowali ogólne zasady i zalecenia dla wszystkich pracowników w europejskiej sieci regulacyjnej ds. leków (EMRN) wykorzystującej duże modele językowe (LLM) w swojej pracy.
LLM to kategoria generatywnej sztucznej inteligencji, której zastosowania mogą znacząco wspierać organy regulacyjne ds. leków w ich zadaniach i procesach. Niezależnie od tego, czy są wykorzystywane do przeszukiwania obszernej dokumentacji, którą organy regulacyjne rutynowo otrzymują, do automatyzacji procesów eksploracji wiedzy/danych, czy jako wirtualni asystenci AI w codziennych zadaniach administracyjnych – LLM mają ogromny potencjał transformacyjny.
Jednak LLM stwarzają również wyzwania, np. zmienność wyników, zwracanie nieistotnych lub niedokładnych odpowiedzi (tzw. halucynacje) i potencjalne zagrożenia dla bezpieczeństwa danych. Celem zasad przewodnich jest budowanie zrozumienia możliwości i ograniczeń tych aplikacji wśród personelu agencji regulacyjnych w całej UE, aby mogli oni skutecznie wykorzystać potencjał LLM i uniknąć pułapek i ryzyka.
Zasady przewodnie obejmują różne aspekty korzystania z LLM, od zapewnienia bezpiecznego wprowadzania danych, przez stosowanie krytycznego myślenia i krzyżowe sprawdzanie wyników, po wiedzę, z kim się skonsultować, gdy pojawią się obawy. Odpowiedzialne korzystanie z LLM wymaga znajomości narzędzi. Podkreśla się znaczenie ciągłego uczenia się, aby nadążać za szybko zmieniającą się dziedziną.
Ponadto zasady zachęcają agencje regulacyjne do podejmowania wysiłków w celu wspierania swoich pracowników w korzystaniu z LLM. Obejmuje to zdefiniowanie zarządzania korzystaniem z LLM, określenie dozwolonych przypadków użycia, zapewnienie szkoleń i monitorowanie ryzyka.
Zasady przewodnie są jednym z rezultatów wieloletniego planu pracy AI do 2028 r. opracowanego przez EMA i szefów agencji leków (HMA). Ten plan pracy stanowi przewodnik dla EMA i EMRN w zakresie korzystania ze sztucznej inteligencji, maksymalizując korzyści przy jednoczesnym zarządzaniu ryzykiem i ułatwiając udostępnianie informacji.
Zasady przewodnie są żywym dokumentem, który będzie regularnie aktualizowany, a EMA przedstawi go sieci podczas webinarium 13 września 2024 r. Jest to jedno z wielu wydarzeń i okazji do udostępniania informacji organizowanych w kontekście planu pracy dotyczącego sztucznej inteligencji.
(EMA)
