Podle Caitlin Gilbert z Washington Postu se při přípravě nových grantových podmínek využívala umělá inteligence. Problém ale nebyl v samotném použití AI. Zásadní problém vznikl ve chvíli, kdy se v dokumentech objevily odkazy na vědecké studie, které podle soudce buď neexistují, nebo nepodporují tvrzení, pro která byly citovány.

To je mimořádně závažné. Grantové programy v oblasti veřejného zdraví nejsou akademické cvičení. Rozhodují o tom, jaké programy dostanou peníze, jaké intervence se budou používat a které skupiny obyvatel k nim budou mít přístup.

HHS přitom současně mění směřování programu Teen Pregnancy Prevention. Aktuální grantová výzva sice stále požaduje medicínsky přesné a věkově odpovídající vzdělávání, podporu informovaného rozhodování a programy, jejichž účinnost byla rigorózně ověřena. Na programy prevence těhotenství je pro nové granty vyčleněno přibližně 63,4 milionu dolarů.

Generativní AI dokáže vytvořit přesvědčivě vypadající citaci, která neexistuje. Dokáže také přiřadit skutečné studii závěr, který ve skutečnosti neobsahuje. Text pak může působit odborně, přestože jeho vědecký základ je chybný.

A pokud takový materiál používá vláda při rozhodování o desítkách milionů dolarů z veřejných peněz, nejde už jen o „chybu chatbotu“. Jde o selhání procesu, který měl takovou chybu odhalit ještě předtím, než se dostala do oficiálního vládního dokumentu.

Soud už dříve zablokoval plánované zásadní změny programu prevence těhotenství u dospívajících. Spor tak není pouze o AI. Je také o tom, zda může vláda měnit zavedený program a jeho podmínky způsobem, který podle soudu překračuje její pravomoci.

Umělá inteligence může pomoci vědcům, lékařům i úředníkům pracovat rychleji. Neměla by však dostat pravomoc určovat, co je vědecký důkaz. Protože vědecký odkaz není pravdivý proto, že vypadá přesvědčivě. Je pravdivý teprve tehdy, když lze skutečně dohledat studii, ověřit její výsledky a zjistit, zda podporuje tvrzení, které se na ni odvolává. A přesně to by měl člověk vždy udělat za AI.

washingtonpost.com/health/2026…

facebook.com/687476500062382/p…