Inyección de prompts indirecta: por qué no se arregla con el prompt y qué sí funciona
Cómo un documento, correo o página web puede dar órdenes a tu modelo, por qué los delimitadores no bastan y qué controles de arquitectura limitan el daño.
// Autor
Héctor Bravo
Creador de El Oráculo IA. Desde México crea y monetiza sitios web, programa en PHP y Python y usa herramientas de IA a diario en su trabajo. Aquí explica la inteligencia artificial con datos, fuentes y sus límites. Gamer y rodeado de gatos.
24 artículos
Cómo se regula la IA en la Unión Europea, Estados Unidos y China: tres modelos distintos
El Reglamento de IA europeo y su calendario, el enfoque estadounidense de órdenes ejecutivas y leyes estatales, las normas chinas sobre IA generativa y etiquetado, y los acuerdos internacionales.
Cómo está cambiando la programación con IA: lo que dicen los datos y lo que se contradice
Adopción de asistentes de código, experimentos de productividad con resultados opuestos, el peso del código generado en grandes empresas y qué tareas de la programación ganan importancia.
La IA y los derechos de autor: los pleitos, las primeras sentencias y qué está en juego
Las dos preguntas legales de la IA generativa (entrenar con obras protegidas y proteger lo generado), las primeras resoluciones en Estados Unidos, el enfoque europeo de exclusión voluntaria y qué implica para usuarios y creadores.
Fine-tuning o RAG: qué problema resuelve cada uno
El fine-tuning cambia cómo responde un modelo; RAG cambia qué sabe en el momento de responder. Criterios, costos y errores al elegir entre ambos.
Evaluar un sistema con LLM sin depender solo de otro LLM como juez
Comprobaciones deterministas, métricas con referencia, jueces LLM calibrados con etiquetas humanas e intervalos de confianza para no confundir ruido con mejora.
Latencia al servir LLM: primer token, tokens por segundo y dónde se va el tiempo
Cómo descomponer la latencia de un LLM en primer token y generación, y qué técnicas reducen cada parte: streaming, caché de prefijos, batching y menos tokens de salida.
Qué exige el Reglamento europeo de IA a una empresa que integra un modelo por API
Guía práctica para equipos que construyen productos sobre modelos de terceros en la UE: papel de proveedor o de responsable del despliegue, prácticas prohibidas, alfabetización, transparencia de chatbots y contenido generado, alto riesgo, plazos y sanciones.
La IA en la guerra: armas autónomas, uso militar actual y lo que se negocia en la ONU
Qué son los sistemas de armas autónomos, qué usos militares de la IA se han documentado, el debate sobre el control humano significativo y el estado de las negociaciones internacionales.
Qué empleos cambiarán primero con la IA: lo que miden los estudios de exposición y lo que no
Qué significa que un empleo esté expuesto a la IA, qué encontraron los estudios de OpenAI, la OIT y otros, la diferencia entre exposición y sustitución y las primeras evidencias en el mercado laboral.
IA y salud mental: chatbots de compañía, apoyo psicológico y lo que dicen los estudios
Qué se sabe del uso de chatbots para apoyo emocional: un ensayo clínico con resultados positivos, señales de dependencia y aislamiento, casos graves con menores, regulación reciente y cómo usarlos con cuidado.
La IA y la desinformación en elecciones: qué se temía, qué ocurrió y qué riesgo queda
Casos documentados de deepfakes electorales, lo que encontraron los análisis tras el año electoral de 2024, el dividendo del mentiroso y las herramientas de procedencia y detección.