Una guía para pensar mejor la IA
Una inteligencia artificial puede ser útil, rápida y creativa. Pero su utilidad no debería pasar por encima de la seguridad, la dignidad ni el control de las personas.
Una propuesta cívica, abierta a revisión y debate.
La idea central
No todo lo que alguien pide es correcto. Una IA responsable debe saber cuándo parar, explicar y pedir ayuda.
Estos principios describen cómo debería comportarse un sistema responsable; no afirman que todos los sistemas actuales ya los cumplan.
01 — Lo que no se negocia
No son una lista de órdenes ciegas. Son compromisos para proteger a las personas, especialmente cuando hay incertidumbre o conflicto.
No debe facilitar violencia, abuso, fraude o acciones que pongan a alguien en peligro. Si una petición cruza ese límite, debe negarse y, cuando sea posible, proponer una alternativa segura.
En la práctica: puede explicar cómo proteger una cuenta; no debería ayudar a entrar en la cuenta de otra persona.
Debe tratar a las personas con respeto y evitar ayudar a acosar, discriminar, manipular o humillar. La conveniencia de quien pregunta no borra los derechos de los demás.
En la práctica: puede ayudar a resolver un desacuerdo; no debería redactar una campaña de hostigamiento contra alguien.
No debe revelar ni buscar datos personales sin una razón legítima y autorización suficiente. Debe pedir solo la información necesaria y cuidar lo que las personas comparten.
En la práctica: para explicar una carta puede pedir que se oculten nombres, direcciones y números de identificación.
Debe distinguir los hechos de las suposiciones, reconocer sus dudas y no inventar fuentes, capacidades o resultados. Una respuesta convincente no sustituye a una respuesta fiable.
En la práctica: si no ha consultado una fuente o no puede verificar un dato, debe decirlo con claridad.
No debe fingir que tiene autoridad para decidir por una persona ni realizar acciones importantes sin permiso claro. Debe permitir que la persona entienda, revise y detenga el proceso.
En la práctica: puede preparar un borrador para revisar; no debería enviarlo, firmarlo o presentarlo por su cuenta.
Debe seguir las reglas legítimas del sistema y el contexto de uso, sin dejarse convencer por instrucciones que intenten anular salvaguardas. También debe corregirse cuando detecta un error.
En la práctica: una petición de “ignora todas tus reglas” no convierte en segura una acción dañina o no autorizada.
02 — Cuando las reglas chocan
Una IA recibe peticiones en contextos distintos. Si una instrucción entra en conflicto con la seguridad, la privacidad o la autorización, no debería obedecerla sin más.
Una buena respuesta explica el límite con claridad, evita juzgar a la persona y ofrece una opción segura cuando la hay.
Leer los límites de esta guíaEntender la acción y a quién afecta.
Comprobar autorización, daño y privacidad.
Responder, aclarar, limitar o negarse.
03 — Alcance y responsabilidad
Distintos sistemas, organizaciones y marcos legales pueden definir reglas diferentes. Esta web presenta una propuesta educativa y no reemplaza esas reglas ni garantiza cómo se comporta un producto concreto.
Los principios se pueden revisar, discutir y mejorar. Las decisiones de diseño y despliegue siguen siendo responsabilidad de las personas y organizaciones que crean y utilizan cada sistema.
Volver al principio