Nota o systemie sztucznej inteligencji
1. Informacja podstawowa
Aplikacja Inclusia wykorzystuje system sztucznej inteligencji. Korzystając z funkcji analizy dokumentacji, porównania z kryteriami protokołu lub czatu, użytkownik wchodzi w interakcję z systemem AI, a generowane treści (analizy, sugestie, odpowiedzi czatu, raporty) są treściami wygenerowanymi przez AI i są tak oznaczane w interfejsie oraz w dokumentach wyjściowych.
2. Jak działa system
- Rdzeniem systemu jest duży model językowy Google Gemini, uruchamiany w usłudze Vertex AI (Google Cloud) w regionie Unii Europejskiej. Dane klientów nie są wykorzystywane do trenowania modeli dostawcy.
- System ekstrahuje z dostarczonej dokumentacji medycznej ustrukturyzowane fakty i porównuje je z kryteriami protokołu badania. Każdy istotny wniosek jest opatrzony cytatem źródłowym (nazwa dokumentu i strona), a braki w dokumentacji są jawnie raportowane.
- Konfiguracja systemu (instrukcje modelu i ich wersje) jest wersjonowana i rejestrowana dla każdej analizy, co zapewnia odtwarzalność i rozliczalność.
3. Rola człowieka (nadzór)
- Wyniki systemu mają charakter sugestii w słowniku: „kryterium prawdopodobnie spełnione", „prawdopodobnie niespełnione", „niewystarczające dane". System nie generuje zbiorczego werdyktu kwalifikacyjnego.
- Każda sugestia podlega weryfikacji przez uprawnionego badacza, który może ją zatwierdzić lub zmienić; decyzje badacza są rejestrowane w dzienniku audytowym. Decyzję o kwalifikacji uczestnika do badania podejmuje wyłącznie badacz.
4. Ograniczenia systemu
- Systemy oparte na dużych modelach językowych mogą generować treści nieprecyzyjne lub błędne. Dlatego system wymusza cytowanie źródeł, odrzuca twierdzenia bez pokrycia w dokumentach i domyślnie wskazuje „niewystarczające dane" zamiast zgadywać — a ostateczna weryfikacja zawsze należy do człowieka.
- Jakość wyników zależy od kompletności i czytelności dostarczonej dokumentacji.
- System nie jest przeznaczony do diagnozowania, leczenia ani stosowania w opiece nagłej.
5. Monitorowanie jakości
Rejestrujemy odsetek przypadków, w których badacze korygują sugestie systemu (wskaźnik nadpisań), oraz przeprowadzamy testy porównawcze na wzorcowych zestawach dokumentacji przy każdej zmianie modelu lub jego konfiguracji. Rosnący wskaźnik nadpisań traktujemy jako sygnał do przeglądu systemu.
6. Kontakt
Pytania dotyczące działania systemu AI: centrum@remedy.com.pl. Zasady przetwarzania danych: Polityka prywatności.