Tutti i progetti Base

Logris Verifier

Verifica indipendente del lavoro dell’IA, basata su prove riproducibili anziché sul resoconto dell’agente.

Fase: Ricerca e sviluppo inizialeAccesso: Ancora nessun accesso pubblico

Torna all’esplorazione

Il cristallo di Logris con l’area «Base» illuminata
Vista d’insieme: il cristallo di Logris con l’area «Base» illuminata. Questo progetto non ha ancora un proprio cristallo.

Logris Verifier esplora come verificare le affermazioni degli agenti IA confrontandole con lo stato effettivo di un sistema, con i test e con il comportamento osservato. Dovrebbe far emergere le discrepanze e tenere il risultato del lavoro separato dall’autorizzazione ad agire di conseguenza. Il progetto è in fase di ricerca e di sviluppo iniziale.

Su cosa si concentra

  1. Verifica delle affermazioni sulla base di prove riproducibili
  2. Individuazione delle discrepanze tra resoconto e realtà
  3. Separazione tra un risultato e l’autorizzazione ad agire

Ciò che questo progetto non promette

  • Zero allucinazioni
  • La dimostrazione che qualsiasi IA sia sicura
  • Una certificazione universale
Area
Base
Fase
Ricerca e sviluppo iniziale
Accesso
Ancora nessun accesso pubblico
Descrizione rivista
Dove vive nel cristalloBaseTorna all’esplorazione