Alineación, superinteligencia, conciencia y cómo leer las predicciones sin caer en el pánico ni en el hype.
Qué es la alineación, por qué es difícil especificar lo que queremos, las técnicas actuales (ajuste con preferencias humanas, principios escritos, supervisión escalable, interpretabilidad) y sus límites.
Una forma de evaluar predicciones sobre descubrimientos científicos con IA: la velocidad de verificación de cada campo, lo que ya se ha logrado y los cuellos de botella que la IA no elimina.
El riesgo de desalineación explicado sin ciencia ficción: objetivos mal especificados, comportamientos observados en evaluaciones controladas, el desacuerdo entre expertos y qué se hace al respecto.
Qué son los sistemas de armas autónomos, qué usos militares de la IA se han documentado, el debate sobre el control humano significativo y el estado de las negociaciones internacionales.