Gdzie dwoje ludzi, tam cztery opinie – powiedzenie to szczególnie trafnie opisuje moralną różnorodność ludzkich doświadczeń. Nasze opinie, obyczaje i język, jakim je nazywamy, zmieniają się w czasie – i różnią się między ludźmi.
Przy ocenie tej samej sytuacji jedni z nas odwołują się do empatii, inni do poczucia sprawiedliwości. Co jednak gdyby istniał bezstronny arbiter? Czy można to zmierzyć i nauczyć tego maszynę? Nad takim rozwiązaniem, w ramach projektu Moralytics, pracują dr Maciej Skórski z Instytutu Informatyki Wydziału Matematyki, Informatyki i Mechaniki Uniwersytetu Warszawskiego i dr Alina Landowska z Akademii Leona Koźmińskiego.
Projekt Moralytics to nowatorskie badanie, którego celem jest wyposażenie sztucznej inteligencji w cyfrowy „kompas moralny” zdolny do precyzyjnego rozpoznawania wartości w ludzkich wypowiedziach.
Po co nam jednak modele AI wyposażone w moralny kompas? Kto na tym skorzysta i jak będzie to działać?
Nie czyny, lecz słowa
Ważne zastrzeżenie: badacze nie uczą modeli językowych, jak moralnie postępować, tylko jak precyzyjnie rozpoznawać moralne nacechowanie wypowiedzi. Aby to zrobić, musieli wcześniej określić, czym jest moralność.
W tym celu sięgnęli po koncepcję Jonathana Haidta, który porównał moralność do wrodzonej gramatyki umysłu. Według tej teorii wszelkie oceny moralne można scharakteryzować za pomocą pięciu kategorii: troski (z ang. care), sprawiedliwości (z ang. fairness), lojalności (z ang. loyalty), autorytetu (z ang. authority) oraz świętości (z ang. sanctity).
Człowiek rodzi się z gotową matrycą psychologiczną, która pozwala mu intuicyjnie odróżniać dobro od zła, zanim jeszcze pozna zasady swojej kultury. Podobnie jak w przypadku języka, ewolucja wyposaża nas w uniwersalne reguły gramatyczne, natomiast społeczeństwo uczy konkretnego, lokalnego „dialektu” moralnego.
W tej samej sytuacji, w zależności od naszej wrażliwości moralnej, będziemy reagować różnie. Możemy powiedzieć „to niesprawiedliwe” lub „to okrutne”. W pierwszym przypadku odwołamy się do poczucia sprawiedliwości, w drugim – do empatii.
– Gdy analizujemy wypowiedzi silnie nacechowane emocjonalnie, na przykład dotyczące interwencji policji wobec aktywistów, poszczególne kategorie, takie jak empatia i poczucie sprawiedliwości, bardzo często się nakładają. Naszym celem jest precyzyjna parametryzacja tych komunikatów i sprowadzenie ich do pięciu mierzalnych wymiarów zdefiniowanych przez Haidta. Pozwala to na obiektywną, matematyczną analizę dyskursu, który dla ludzkich sędziów bywa zbyt chaotyczny – mówi dr Maciej Skórski z Instytutu Informatyki MIM UW oraz Uniwersytetu w Luksemburgu.
Teoria Haidta okazała się poręcznym narzędziem do kalibrowania modeli językowych – „nauczania AI o moralności”. Badacze wykorzystali zbiór danych, składający się z autentycznych wpisów internautów publikowanych przede wszystkim na platformach X oraz Reddit, artykułów z głównych amerykańskich serwisów informacyjnych (m.in. „Washington Post„”, CNN, Fox News).
Wypowiedzi te dotyczyły m.in. protestów Black Lives Matter, akcji #MeToo, kampanii prezydenckiej w USA w roku 2016, ale też zwykłych życiowych etycznych dylematów (zdrada małżeńska, relacje na linii pracodawca–pracownik itp.).
Następnie – aby ocenić skuteczność metodologii Moralytics – naukowcy sprawdzili, jak z moralnym przyporządkowaniem tych wypowiedzi do kategorii Haidta poradziły sobie duże modele językowe, takie jak Claude Sonnet 4 (od firmy Anthropic), Llama 4 Maverick (Meta) oraz DeepSeek-V3 (DeepSeek). Takie zadanie wcześniej wykonała grupa ok. 700 osób. Za wspólny punkt odniesienia przyjęto konsensus wyznaczony algorytmami bayesowskimi, wskazujący najbardziej prawdopodobne wskazania przy założeniu błędów i odchyleń oceniających (zarówno AI, jak i ludzi).
Okazało się, że modele językowe poradziły sobie nad wyraz dobrze, jeśli chodzi o precyzję wskazań. Celność ich ocen pokrywała się z wynikami 25% najlepszych ludzkich arbitrów. Średnia precyzja człowieka wynosiła 67-76% trafności wskazań, zaś sztucznej inteligencji 62-95%.
Co jednak szczególnie istotne, modele językowe okazały się dużo lepsze w unikaniu tzw. false negatives, czyli błędnej oceny, że dana wypowiedź nie ma żadnego nacechowania moralnego. Maszyny pomyliły się w 19,4% przypadków, z kolei prawie 53% osób uznało, że oceniany tekst jest neutralny. Dlaczego tak się stało?
– Tematy takie jak ruchy społeczne czy kampanie polityczne wyzwalają w ludziach silne uprzedzenia i różne reakcje. Człowiek musi włożyć ogromny wysiłek, również emocjonalny, aby zachować pełen obiektywizm podczas oceny takich tekstów. Modele LLM są wolne od emocji, dlatego przetwarzają tekst czysto algorytmicznie, dzięki czemu rzadziej pomijają ukryte w strukturze języka sformułowania wartościujące – tłumaczy dr Skórski.
Moralność po polsku
Do roli bezstronnego i nieomylnego arbitra moralności dużym modelom językowym, a więc sztucznej inteligencji, wciąż jednak daleko. Przeszkodą jest przede wszystkim… bariera językowa.
Chociaż teorię Haidta można zastosować do każdej kultury, to sposób, w jaki mówimy o lojalności, świętości czy autorytecie jest ściśle związany z językiem, którym się posługujemy. Co więcej, nasza wrażliwość, a co za tym idzie, słowa, którymi się ona objawia, jest zmienna w czasie.
Wystarczy choćby przypomnieć, jak w polszczyźnie zmieniło się nacechowanie słowa „Murzyn”. Określenie niegdyś neutralne, obecnie jest traktowane jako obraźliwe.
Dlatego obecnym celem twórców projektu Moralytics jest wyuczenie sztucznej inteligencji wrażliwości moralnej w języku polskim, tj. optymalizacja modeli pod kątem rozpoznawania niuansów semantycznych w tym języku. Jako pierwszy przetestowany został model Claude Sonnet. Sprawdzono, jak radzi sobie z przekładem maszynowym języka silnie nacechowanego (slangiem, wulgaryzmami, użyciem emotikonów), zaczerpniętego wprost z internetowych dyskusji.
Claude przetłumaczył około 50 tys. wpisów i wyniki tej operacji, choć dalekie od ideału, można uznać za nader obiecujące. Zwłaszcza, że polszczyzna należy do najbardziej skomplikowanych języków słowiańskich.
Model dostał wytyczne, aby przede wszystkim zachować ton danej wypowiedzi, a także, jeżeli to możliwe, znaleźć dokładny odpowiednik dla wulgaryzmu. Dodatkowo miał zachować w oryginale skrótowce, hashtagi czy nazwy własne. Gdy wyniki przekładu były niezadowalające, ręcznie modyfikowano wytyczne, aby uzyskać lepsze rezultaty.
Pod względem zachowania sensu, a więc także moralnego nacechowania wypowiedzi, Claude poradził sobie bardzo dobrze. Miał jednak trudności z przekładem osobliwości językowych.
Badacze uważają, że tego rodzaju problemów nie będzie można pokonać wyłącznie za pomocą przekładu maszynowego. Aby powstało precyzyjne „moralne” AI, wyczulone na niuanse polskiego języka potocznego, konieczne będzie przygotowanie korpusu, od podstaw, we współpracy z językoznawcami.
– Testowaliśmy automatyczne tłumaczenie w układzie „człowiek w pętli” (human-in-the-loop), w którym to człowiek weryfikował jakość przekładu i dostosowywał polecenia, tzw. prompty. Choć uzyskaliśmy zadowalający transfer semantyczny, specyfika amerykańskiego slangu afroamerykańskiego czy unikalna ekspresja polskich wulgaryzmów sprawiają, że proste tłumaczenie maszynowe to za mało. Aby stworzyć narzędzie w pełni wyczulone na polskie realia kulturowe, musimy od zera zbudować własny korpus językowy, łącząc siły z lingwistami – mówi naukowiec.
Wzór (do) naśladowania
Po co nam jednak modele AI wyposażone w funkcję kategoryzacji pojęć etycznych, czyli swego rodzaju kompas moralny?
Potencjalne zastosowania rozwiązań, nad którymi pracują polscy badacze są liczne. Z jednej strony odnajdą się one na rynku komercyjnym. Firmom, które odwołują się w swojej strategii komunikacyjnej do dbałości o środowisko lub do konserwatywnych wartości, będzie można zaoferować narzędzie ułatwiające im dobranie odpowiedniego tonu przekazu.
Z drugiej strony, takie systemy, to „moralnie wrażliwe” AI, mogłyby się okazać nieocenionym narzędziem badawczym w analizie dyskursu oraz badaniach opinii publicznej.
– Naszym celem jest stworzenie metodologii pozwalającej na mapowanie i mierzenie dynamiki dyskursu społecznego: identyfikowanie polaryzacji, dryftów pojęciowych czy nagłych zmian w preferencjach odbiorców. Pozwoli to na lepsze dopasowywanie modeli językowych do ściśle zdefiniowanych kryteriów i oczekiwań użytkowników – deklaruje informatyk.
Dodatkowo, niewykluczone, że z czasem każdy z nas doczeka się spersonalizowanego asystenta moralnego – modelu językowego dopasowanego do osobistych preferencji moralnych. Obecnie dostępne modele nie posiadają wyraźnie zarysowanego zestawu wartości.
– Naszą ambicją jest, żeby nasza praca została wykorzystana do stabilizowania i bezpiecznego kalibrowania modeli językowych – w pewien sposób do okiełznania sztucznej inteligencji. To z kolei mogłoby doprowadzić do używania bardziej inkluzywnego języka. Dzięki zasileniu algorytmów polskimi danymi socjolingwistycznymi oraz dzięki zastosowaniu uczenia przez sprzężenie zwrotne na parach preferowanych odpowiedzi model stanie się bardziej wyczulony na kontekst kulturowy. Kluczowe jest jednak, abyśmy nie uczynili go przeczulonym. Musimy uważać, by nie doprowadzić do nadmiernej cenzury i blokowania neutralnych komunikatów – podsumowuje badacz. I dodaje: – Dzięki tej nauce nasze interakcje z modelami będą bezpieczniejsze, a ich użytkownicy będę mieć możliwość personalizacji tego doświadczenia.
Niekiedy można odnieść wrażenie, że szybki rozwój technologii znacząco wyprzedził nasz rozwój w innych dziedzinach, takich jak kultura czy właśnie moralność.
Być może jednak dzięki badaniom takim jak te prowadzone przez dr. Macieja Skórskiego oraz dr Alinę Landowską uda się zniwelować tę dysproporcję, zanim stanie się ona zbyt rozległa.
Projekt Moralytics pokazuje, że algorytmy można nauczyć naszych zasad gry, z uwzględnieniem tego, że prawdziwe życie często wymyka się regułom.
Sztuką nie jest więc wgranie maszynie uniwersalnego kodeksu zasad moralnych i słownika poprawnej polszczyzny, ale sprawienie, by rozumiała internetową codzienność: pełną slangu, podtekstów i emocji, w obliczu których reguły kapitulują. Bezpieczna przyszłość z AI zależy między innymi od tego, czy nauczymy sztuczną inteligencję czytać między wierszami rodzimych dyskusji.
