Czy AI może wykrywać teksty wygenerowane przez sztuczną inteligencję?

Od momentu powstania narzędzi do generowania tekstów przez sztuczną inteligencję obserwujemy coraz więcej jej wytworów w wielu dziedzinach. Firma OpenAI opracowała system, dzięki któremu będzie możliwe wykrywanie tekstów generowanych przez ChatGPT. Na razie "Znak wodny" nie ma zostać upubliczniony.

Czy nadchodzi rewolucja?

Jak donosi wyborcza.biz z informacji „Wall Street Journal” wynika, że teksty tworzone przez AI mają zostać opatrzone "znakiem wodnym" niewidocznym dla człowieka. Wszystko po to, by można było łatwo rozpoznać teksty generowane przez sztuczną inteligencję i nie nadużywać ich np. w pracach naukowych. Okazuje się jednak, że system ten nie jest on niezawodny i w prosty sposób można go obejść poprzez przetłumaczenie tekstu lub przepisanie za pomocą innej niż ChatGPT technologii AI. Wystarczy też poprosić o dodanie znaku specjalnego, który następnie będzie ręcznie usunięty, aby system nie był w stanie wykryć wygenerowanego tekstu.

Skąd pomysł na oznaczanie treści tworzonych przez AI?

Okazuje się, że takie narzędzie jest bardzo potrzebne w różnych instytucjach, przede wszystkim związanych z edukacją, ale nie tylko. Wiele prac zaliczeniowych jest obecnie generowanych przez sztuczną inteligencję i uczelniom brakuje narzędzi do ich wykrywania. Podobnie w sejmie pojawiają się interpelacje, które budzą podejrzenie wygenerowania przez narzędzia AI. Ta tendencja może się okazać niebezpieczna w dłuższej perspektywie, bo zaleją nas teksty naukowe o wątpliwej wartości merytorycznej. Jednak na chwilę obecną nie ma skutecznego sposobu na ich wykrycie.