TheModelDesk

El columnista de TechCrunch Russell Brandom analiza una posición controvertida del fundador de Comma AI, George Hotz, respecto a la filosofía de alineación de IA. Hotz publicó una respuesta al documento AI 2040, que propone una desaceleración de 14 años en el desarrollo de IA para garantizar un progreso gestionado colectivamente de forma segura.

Hotz argumenta en su lugar a favor de modelos de IA descentralizados y alineados con el usuario, priorizando los intereses individuales del usuario sobre las restricciones de seguridad gestionadas centralmente. Sostiene que el escenario de despegue rápido que sustenta los planes de gobernanza colectiva carece de credibilidad. Brandom reconoce estar de acuerdo con gran parte de la crítica de Hotz a la infraestructura centralizada de IA, señalando que servicios como Claude y ChatGPT persisten parcialmente debido a factores económicos y técnicos que podrían disminuir a medida que la tecnología avanza.

Hotz enmarca su posición en términos absolutistas, comparando la IA alineada con el usuario con una herramienta que no debería rechazar a su operador, utilizando ejemplos extremos (asesinato, fabricación ilegal) para ilustrar su principio de que un verdadero alineamiento significa servir las preferencias del usuario sin filtrado moral. Plantea la elección como binaria: o los sistemas preservan la libertad individual o no. Brandom expresa escepticismo tanto sobre el marco provocador de Hotz como sobre la premisa subyacente de que la IA sería el factor limitante en tales escenarios, mientras reconoce la verdadera tensión entre la autonomía del usuario y el diseño orientado a la seguridad en los sistemas de IA.