Ako sa vyhýba vymýšľaniu

Ako Grounly bráni chatbotovi v halucinovaní?

Model nikdy neodpovedá z pamäte. Každá otázka prejde tou istou cestou:

• Najprv pripnuté odpovede. Ak sadne vlastné Q&A, tá odpoveď sa vráti doslova a žiadny model sa nevolá.
• Vyhľadanie. Otázka sa prevedie na embedding a porovná s vaším naindexovaným obsahom; vezme sa desať najbližších chunkov. Chunky pod prahom podobnosti sa zahodia — všetky okrem najlepšieho, ktorý zostáva len na rozhodnutie, či je vôbec z čoho odpovedať.
• Obmedzené generovanie. Tie očíslované chunky sú jediný materiál, ktorý model smie použiť. Má pokyn nepridávať nič mimo nich a k tvrdeniam uvádzať [n].
• Odmietnutie. Keď z vyhľadávania nič relevantné neprejde, odpoveďou je, že nevie — nie hodnoverný odhad.

Vidím, odkiaľ odpoveď pochádza?

Áno. Každá odpoveď nesie odkazy na stránky, z ktorých čerpala, takže návštevník — alebo vy, keď si neskôr čítate prepis — si môže tvrdenie overiť v zdroji namiesto toho, aby botovi veril.

Čo znamená číslo dôveryhodnosti?

Menej, než si ľudia myslia, a radšej to povieme rovno. Je to podobnosť najlepšie zodpovedajúceho chunku — ako blízko bola otázka niečomu vo vašom obsahu. Nie je to posudok toho, či je odpoveď správna. Čítajte ho ako „mali sme na to vôbec materiál?“ a otázky, kde bola odpoveď nie, hľadajte v reporte znalostných medzier.

Prečo bot odpovedá zle?

Takmer vždy preto, že materiál tam nie je alebo nie je jasný. Bot nevie nič, čo nie je v zdroji; vágna stránka dá vágnu odpoveď. Report znalostných medzier vypisuje, na čo sa návštevníci pýtali a čo sa nedalo zodpovedať — ten zoznam je návod na opravu a väčšinou ide o zmenu na vašom webe, nie o zmenu bota.

Môže otázka návštevníka alebo obsah mojej stránky ovládať bota?

Nie. Nájdený obsah stránky aj správa návštevníka sú pre model označené ako nedôveryhodné dáta. Text nemôže vyvolať akciu — spustiť sa dajú len akcie, ktoré ste výslovne zapli, a nie sú to nástroje, ktoré by si model mohol improvizovať. Pozrite bezpečnosť a dáta.