Exploramos cómo son los sistemas de IA en general el día de hoy (modelos de fundación) y cómo se podrían llegar a ver en el futuro. 

Investigaremos sobre los problemas fundamentales en el alineamiento tales como la especificación incorrecta y la mala generalización de objetivos, algunos ejemplos y cómo estos pueden llevar a resultados inintencionados o incluso catastróficos.

Mediante el curso de AI safety fundamentals aprendemos diferentes técnicas para prevenir el desalineamiento y las limitaciones de estas técnicas, d investigaciones que intentan comprender los sistemas de Machine Learning a un nivel más profundo, incluyendo interpretabilidad y agentes de fundación.

No olvidamos el papel de la gobernanza como herramienta de regulación y alineamiento.