OpenAI způsobila revoluci ve světě umělé inteligence od počátku ChatGPT a neustále se vyvíjí, aby přinášela další pokroky v uživatelské interakci s nástrojem AI a způsobu přístupu k informacím.
Nelze popřít, že společnost přinesla pohodlí a užitečnost uživatelům z různých oborů. Zneužití dat je však velmi časté, zejména na pracovištích a v akademických institucích. Aby se OpenAI vypořádal s tímto problémem, pracovalo minulý rok na detekčním nástroji, ale přes rostoucí obavy jej zatím neuvolňuje.
ChatGPT změnil hru AI a způsob generování a používání obsahu. Jako každý nástroj umělé inteligence má jazykový model lepší přístup k informacím a způsobu jejich prezentace. S pokrokem však přišly různé hrozby týkající se studentů zneužívajících nástroj k podvádění a tvůrců obsahu prezentujících text generovaný prostřednictvím výzev jako originál.
Aby se tento problém minimalizoval, OpenAI pracuje na nástroji pro detekci uživatelů, kteří se při vytváření obsahu zcela spoléhají na ChatGPT. Navzdory tomu, jak rozšířené jsou obavy ohledně mezer v zákonech, společnost stále tento nástroj nezavedla a stále zvažuje potenciální dopad a výsledky, jak uvádí zpráva Wall Street Journal.
OpenAI aktualizovala svůj příspěvek na blogu týkající se nástroje pro detekci obsahu generovaného umělou inteligencí a její metody vodoznaku. Naznačuje, že tato technika je účinná při lokalizovaném neoprávněném zásahu, jako je parafrázování, ale nebyla by tak přesná s globalizovaným neoprávněným zásahem, který zahrnuje například přepisování. Protože tato metoda může umožnit špatným aktérům najít řešení a potenciálně odradit nerodilé mluvčí od používání nástroje, OpenAI se zdá váhavý a interně diskutuje o tom, zda nástroj uvolnit.
I když OpenAI potvrdila TechCrunch, že přesnost metody se blíží 99,9 procenta, stále půjde o „záměrný přístup“. Mluvčí společnosti uvedl, že postupují opatrně kvůli:
„Složitost a její pravděpodobný dopad na širší ekosystém mimo OpenAI.“
Dalším možným důvodem, proč se OpenAI zdráhá vydat tento nástroj, jsou potenciální uživatelé ChatGPT, o které by mohl přijít kvůli vodoznaku. Přibližně 30 procent uživatelů ChatGPT uvedlo, že nástroj nemusí používat tak často, jakmile je systém vodoznaků nedotčený.
OpenAI také ve svém příspěvku na blogu zmínila, že zkoumají textová metadata jako alternativní přístup, protože jsou kryptograficky podepsána, což zajišťuje, že nedojde k falešným poplachům. Je však ještě příliš brzy na to, abychom věděli, zda by tento přístup byl účinný a jaký by měl dopad. Budeme sledovat další vývoj, takže zůstaňte naladěni.
