Jak se vyhýbá vymýšlení

Jak Grounly brání chatbotovi v halucinování?

Model nikdy neodpovídá z paměti. Každá otázka projde stejnou cestou:

• Nejdřív připnuté odpovědi. Pokud sedne vlastní Q&A, tato odpověď se vrátí doslova a žádný model se nevolá.
• Vyhledání. Otázka se převede na embedding a porovná s vaším naindexovaným obsahem; vezme se deset nejbližších chunků. Chunky pod prahem podobnosti se zahodí — všechny kromě nejlepšího, který zůstává jen kvůli rozhodnutí, jestli je vůbec z čeho odpovídat.
• Omezené generování. Tyto očíslované chunky jsou jediný materiál, který model smí použít. Má pokyn nepřidávat nic mimo ně a k tvrzením uvádět [n].
• Odmítnutí. Když z vyhledávání nic relevantního neprojde, odpovědí je, že neví — ne věrohodný odhad.

Poznám, odkud odpověď pochází?

Ano. Každá odpověď nese odkazy na stránky, ze kterých čerpala, takže návštěvník — nebo vy, když si později čtete přepis — si může tvrzení ověřit ve zdroji místo toho, aby botovi věřil.

Co znamená číslo důvěryhodnosti?

Míň, než si lidé myslí, a radši to řekneme rovnou. Je to podobnost nejlépe odpovídajícího chunku — jak blízko byla otázka něčemu ve vašem obsahu. Není to soud o tom, jestli je odpověď správná. Čtěte ho jako „měli jsme na to vůbec materiál?“ a otázky, kde byla odpověď ne, hledejte v reportu znalostních mezer.

Proč bot odpovídá špatně?

Skoro vždycky proto, že materiál tam není nebo není jasný. Bot neví nic, co není ve zdroji; vágní stránka dá vágní odpověď. Report znalostních mezer vypisuje, na co se návštěvníci ptali a co nešlo zodpovědět — ten seznam je návod na opravu a většinou jde o změnu na vašem webu, ne o změnu bota.

Může otázka návštěvníka nebo obsah mé stránky ovládat bota?

Ne. Nalezený obsah stránky i zpráva návštěvníka jsou pro model označené jako nedůvěryhodná data. Text nemůže vyvolat akci — spustit se dají jen akce, které jste výslovně zapnuli, a nejsou to nástroje, které by si model mohl improvizovat. Viz bezpečnost a data.