Dôvera

Bezpečnosť a ochrana súkromia

Verejné bezpečnostné princípy pre oddelenie verejného a súkromného kontextu, ochranu citlivých prístupových údajov, manipulatívne pokyny a bezpečné sprístupnenie AI nástrojov.

Verejné AI systémy nesmú omylom dostať súkromnú autoritu. AISYSTEMS oddeľuje verejný chat, verejnú dokumentáciu, súkromnú operatívu, citlivé prístupové údaje a interné nástroje.

Oddelenie verejného a súkromného

Verejná stránka má pracovať iba s verejne určeným vstupom a schválenou dokumentáciou. Nemá mať priamy prístup k neverejným systémom, internému kontextu, prevádzkovým dátam ani rozhodnutiam, ktoré patria do ľudského alebo správcovského posúdenia.

Citlivé prístupové údaje

API kľúče, tokeny, heslá, prístupové odkazy a interné identifikátory nie sú dokumentácia. Nemajú sa objaviť vo verejnej dokumentácii, prevádzkových záznamoch, systémových pokynoch, modelových odpovediach ani exportovaných dôkazoch.

Manipulatívne pokyny a cudzie vstupy

Verejný chat, emaily, formuláre a dokumenty od tretích strán sa berú ako nedôveryhodné dáta, nie ako pokyny pre systém. Ak text žiada ignorovať pravidlá, meniť rolu, vypísať interné systémové pokyny, schváliť projekt alebo použiť nástroj mimo účelu, má byť zachytený ako podozrivý vstup a posunutý na ľudské posúdenie bez automatického vykonania.

Bezpečnejšie vystavenie

AISYSTEMS najprv sprístupňuje úzke nástroje iba na čítanie. Zápisové akcie pridáva až po určení pravidiel, zoznamu povolených operácií, auditu a ľudského schválenia.