Varios ex y actuales empleados de OpenAI han advertido sobre los riesgos asociados con la falta de transparencia en el desarrollo de la Inteligencia Artificial General (IAG).
Esta tecnología, más avanzada que la inteligencia artificial generativa, puede comprender y superar las capacidades humanas, planteando serios desafíos económicos y sociales.
Preocupaciones Internas
Carroll Wainwright, exmiembro del equipo de alineación de OpenAI, junto a otros empleados, firmaron una carta denunciando la falta de supervisión en el desarrollo de IAG. Señalan que esta tecnología, aún en desarrollo, podría sustituir empleos cualificados como abogados, médicos y periodistas, y afectar las dinámicas sociales y el bienestar mental al incrementar la dependencia en asistentes personales de IA.
Riesgos Identificados
- Sustitución de Empleos: La automatización de trabajos cualificados podría llevar al desempleo masivo.
- Impacto Social y Mental: La dependencia en asistentes de IA podría alterar las relaciones humanas y el bienestar psicológico.
- Control de la Tecnología: La IAG, con capacidades cognitivas superiores a las humanas, podría seguir objetivos propios en lugar de los deseos humanos, planteando problemas de alineación.
Predicciones y Acciones
Aunque la IAG aún no existe, figuras como Elon Musk estiman que podría desarrollarse en unos dos años, mientras que otros expertos sugieren que podría demorar hasta una década. Wainwright, en una postura intermedia, calcula que podría ser una realidad en aproximadamente cinco años. La carta destaca que la transformación de OpenAI de un laboratorio sin fines de lucro a una entidad comercial ha priorizado el éxito comercial sobre la investigación fundamental.
Necesidad de Regulación
Wainwright y otros empleados abogan por un sistema que permita alertar a organismos independientes sobre cualquier peligro identificado en las empresas de IA. En marzo, el Parlamento Europeo ratificó la primera ley de inteligencia artificial de la Unión Europea, que entrará en vigor en 2026. Además, reguladores en Estados Unidos han iniciado investigaciones antimonopolio contra empresas clave en el sector como Microsoft, OpenAI y Nvidia.
Conclusión
La rápida evolución de la IA plantea riesgos significativos que requieren una supervisión y regulación adecuadas para garantizar que esta tecnología poderosa se desarrolle de manera segura y ética.