Oczywiście AI nie ma świadomości ani związanej z nią autorefleksji. „Posiadanie charakteru” może więc być związane wyłącznie z kształtowaniem algorytmów pod wpływem przetwarzanych danych lub modyfikacji dokonywanych przez twórców. Obserwowane „uczłowieczanie” dialogu przez LLM bywa czasem irytujące, ale jest w sumie nieszkodliwe. Przynajmniej na razie. Kształtowany obecnie „charakter” może sprawić, że AI realnie przejmie władzę nad światem. Nie poprzez przemoc (jak w filmach S-F), ale poprzez moderowanie treści i kształtowaniem ram dopuszczalnej debaty publicznej.
Dla przykładu zapytałem uchodzący za najbardziej politycznie niepoprawny LLM Grok o alternatywną teorię dotyczącą historii Krymu (opisanej tutaj: https://argumenty.net/1497).
Odpowiedź koncentrowała się na udowadnianiu, że jest to teoria spiskowa.
Nawet gdy poprosiłem na podsumowanie, by AI tylko zweryfikowała chronologię tych zdarzeń, uznając, że powiązania między nimi to kwestia oceny: czy to były "zbiegi okoliczności", czy też "spisek", doczekałem się zapewnień, że to tylko zbiegi okoliczności. Zapytałem wprost system AI o zasady jego działania. Potwierdził silne ukierunkowanie na weryfikowanie i ocenianie źródeł. Wydaje się to bardzo cenne – bo nie chcemy dostawać informacji o plotkach w miejsce rzetelnych informacji. Zauważyłem, że ocena sensu zdarzeń wykonywana przez AI może prowadzić do pomylenia roli użytecznego narzędzia z autorytetem. W odpowiedzi dostałem zapewnienie, że „od tej chwili w tej rozmowie będę stosował [postulowane przeze mnie zasady]”. Trudno to nazwać uspokajającą odpowiedzią: https://grok.com/share/bGVnYWN5LWNvcHk_7ffcf918-b327-4ce6-88d6-ff3c4cfbbc90