Investigación aplicada
No hacemos investigación académica: documentamos lo que aprendemos resolviendo problemas reales en organizaciones chilenas, y lo publicamos abierto para que otros equipos no tengan que empezar de cero.
Cada línea parte de una pregunta que nos hicieron nuestros propios clientes y que no tenía una respuesta publicada que nos convenciera.
¿Qué pasa cuando el modelo se equivoca y ya tenía permisos?
Trabajamos sobre el supuesto de que la manipulación del modelo es inevitable, así que el control tiene que estar en la autorización, el aislamiento y la reversibilidad de las acciones. Nos interesan especialmente los agentes que actúan sobre sistemas internos y las cadenas de herramientas conectadas por protocolos abiertos.
6 publicaciones
¿Cómo se prueba algo que responde distinto cada vez?
Nos centramos en cómo convertir el red teaming manual en pruebas repetibles y versionadas, cómo puntuar respuestas no deterministas sin engañarse, y cómo detectar regresiones cuando el proveedor actualiza el modelo por debajo sin avisar.
5 publicaciones
¿Qué evidencia produce realmente un programa de gobernanza?
Los marcos describen qué debe existir, no cómo se ve funcionando en una organización con recursos limitados. Documentamos implementaciones realistas: qué se puede montar en un trimestre, qué evidencia sirve ante un auditor y qué controles se abandonan a los tres meses.
8 publicaciones
¿Cómo se prepara una organización chilena para un marco que aún se está escribiendo?
Seguimos la tramitación local y los marcos que la influyen, con foco en lo que se puede anticipar sin depender del texto final. En el sector público prestamos atención a las decisiones que afectan derechos de las personas y a los requisitos de transparencia.
5 publicaciones
Ordenadas por área. Todas son de acceso libre y se pueden citar mencionando la fuente.
Si no tenemos un dato verificado, escribimos el argumento sin número. Preferimos un texto menos vistoso a una estadística que nadie puede comprobar.
Lo que aprendemos en proyectos se publica de forma agregada y anonimizada. Nunca nombramos clientes ni describimos incidentes reconocibles.
Cuando un marco está en tramitación o una técnica es discutida, lo decimos. El lector necesita saber qué es consenso y qué es nuestra lectura.
Todo el material es de acceso libre. Puedes usarlo en clases, charlas o documentos internos mencionando la fuente.
Colaboración
Trabajamos con universidades, equipos de seguridad y organismos públicos que quieran documentar casos, revisar borradores o proponer una línea nueva. También participamos en la Comisión de Seguridad y Gobernanza IA de la Cámara Chilena de Inteligencia Artificial.