TheModelDesk

Le chroniqueur de TechCrunch Russell Brandom analyse une position controversée du fondateur de Comma AI, George Hotz, concernant la philosophie de l'alignement de l'IA. Hotz a publié une réponse au document AI 2040, qui propose un ralentissement de 14 ans du développement de l'IA pour assurer des progrès gérés collectivement en toute sécurité.

Hotz plaide plutôt pour des modèles d'IA décentralisés et alignés avec l'utilisateur, donnant la priorité aux intérêts individuels de l'utilisateur par rapport aux contraintes de sécurité gérées de manière centralisée. Il soutient que le scénario de décollage rapide sous-jacent aux plans de gouvernance collective manque de crédibilité. Brandom reconnaît son accord avec beaucoup de la critique que Hotz adresse à l'infrastructure d'IA centralisée, notant que des services comme Claude et ChatGPT persisteront en partie en raison de facteurs économiques et techniques qui pourraient diminuer à mesure que la technologie progresse.

Hotz cadre sa position en termes absolutistes, comparant l'IA alignée aux utilisateurs à un outil qui ne devrait pas refuser son opérateur – utilisant des exemples extrêmes (meurtre, fabrication illégale) pour illustrer son principe selon lequel un véritable alignement signifie servir les préférences des utilisateurs sans filtrage moral. Il pose le choix comme binaire : soit les systèmes préservent la liberté individuelle, soit ils ne le font pas. Brandom exprime son scepticisme tant envers la formulation provocatrice de Hotz qu'envers la prémisse sous-jacente selon laquelle l'IA serait le facteur limitant dans de tels scénarios, tout en reconnaissant la véritable tension entre l'autonomie de l'utilisateur et la conception axée sur la sécurité dans les systèmes d'IA.