Goldman Sachs restringe el uso de agentes de IA para programación a ingenieros durante revisión de seguridad

Goldman Sachs ha restringido el acceso a agentes de IA para programación, limitando herramientas como Claude Code de Anthropic y GitHub Copilot de Microsoft exclusivamente a su personal de ingeniería. La directriz interna, actualizada en octubre de 2026, elimina estas capacidades para los traders y banqueros que previamente las utilizaban para modelado de mercados y análisis de flujos de clientes. Este cambio se produce apenas unas semanas antes de que Goldman actúe como suscriptor principal de la esperada oferta pública inicial (OPI) de Anthropic.

Qué ocurrió

La restricción sigue a una revisión interna de los riesgos de productividad y seguridad asociados con la generación y ejecución de código por parte de personal no técnico. Aunque el Director de Información Marco Argenti elogió la "vibe coding" realizada por personal no técnico en julio, señalando que los traders construyeron prototipos útiles para que los ingenieros los refinaran, el banco ha revertido desde entonces este enfoque abierto. Los traders y banqueros expresaron frustración por el cambio, ya que dependían de estos agentes para monitorear flujos de trading, modelar posiciones de mercado y crear materiales visuales sin esperar recursos de ingeniería.

El acceso permanece disponible para los "Strats", un rol híbrido que combina trading, investigación cuantitativa e ingeniería de software, según fuentes familiarizadas con el asunto. Un portavoz de Goldman declaró que la firma pone ciertas herramientas de IA a disposición para determinar los mejores casos de uso en toda la organización. Esta medida se alinea con acciones anteriores en abril de 2026, cuando Goldman eliminó Claude de su plataforma interna para banqueros en Hong Kong debido a interpretaciones contractuales, aunque ChatGPT y Gemini permanecieron disponibles allí.

A pesar de restringir el acceso general de los empleados a agentes de codificación de terceros, Goldman mantiene una estrecha asociación con Anthropic. Ingenieros de Anthropic pasaron seis meses en el banco a principios de este año ayudando a construir agentes basados en Claude para funciones de back-office como contabilidad de operaciones y incorporación de clientes. Estos agentes de nivel empresarial son gestionados directamente por los equipos de ingeniería de Goldman, asegurando que operen dentro de estrictos marcos de cumplimiento normativo. Mientras tanto, Goldman y Morgan Stanley se preparan para liderar la OPI de Anthropic, con la empresa prevista para cotizar en Nasdaq bajo el ticker ANT antes de finales de noviembre de 2026.

Cómo funciona

Los agentes de IA para programación como Claude Code funcionan leyendo archivos, escribiendo programas y ejecutándolos con los mismos privilegios de acceso que el usuario. En un flujo de trabajo tradicional de ingeniería, el código pasa por revisiones rigurosas, pruebas y controles de despliegue antes de alcanzar entornos de producción. Sin embargo, cuando traders o banqueros usan estos agentes, a menudo crean scripts para uso personal inmediato, saltándose las verificaciones estándar del ciclo de vida del desarrollo de software. Esto crea un entorno de IT sombra donde código no revisado opera en máquinas que manejan información sensible de clientes.

El riesgo principal radica en la falta de transparencia y control. Un trader que usa un agente para modelar posiciones puede no entender cómo el código generado maneja casos límite o condiciones inusuales del mercado, lo que potencialmente conduce a pérdidas financieras significativas. Además, los bancos están legalmente obligados a mantener barreras de información entre diferentes departamentos, como banca de inversión y trading, para prevenir conflictos de interés. Las herramientas creadas ad-hoc por empleados no respetan inherentemente estas barreras, y los ingenieros solo pueden auditarlas si se les solicita explícitamente, dejando brechas en la supervisión del cumplimiento.

Detalles clave

• Herramientas restringidas: El acceso a Claude Code de Anthropic y GitHub Copilot de Microsoft está ahora limitado a ingenieros y Strats.
• Cronología: La directriz interna fue actualizada en octubre de 2026, siguiendo una promoción en julio del uso de IA por personal no técnico por parte del CIO Marco Argenti.
• Restricciones previas: Goldman prohibió a los banqueros de Hong Kong usar Claude en abril de 2026 basado en términos contractuales.
• Asociación continua: Los ingenieros de Goldman siguen trabajando con Anthropic en agentes de back-office para contabilidad de operaciones e incorporación de clientes.
• Contexto de la OPI: Goldman es suscriptor principal de la OPI de Anthropic, prevista para cotizar en Nasdaq como ANT en noviembre de 2026.
• Tendencia de la industria: JPMorgan y Schwab también están bloqueando agentes externos de cuentas de clientes, mientras que Barclays planea equipar a la mitad de sus desarrolladores con Claude Code.

Por qué importa

Para líderes técnicos y fundadores, esta decisión destaca la tensión entre innovación rápida y cumplimiento regulatorio en industrias de alto riesgo. Permitir que no ingenieros ejecuten código introduce un riesgo operativo significativo, ya que estos usuarios carecen de la formación para identificar vulnerabilidades de seguridad o errores lógicos en scripts generados. El incidente subraya que la adopción de IA no puede ser puramente ascendente (bottom-up) en sectores regulados; las estructuras de gobernanza deben evolucionar junto con la accesibilidad de las herramientas para prevenir acceso no autorizado a datos o violaciones de cumplimiento.

La medida también señala un mercado maduro para la IA empresarial, donde se distingue entre chatbots orientados al consumidor y agentes autónomos de codificación. Mientras los chatbots asisten con la recuperación de información, los agentes de codificación cambian activamente los estados del sistema. Las empresas deben definir modelos claros de propiedad para el código generado por IA, asegurando que cada script que toque datos de producción tenga un ingeniero designado responsable de su mantenimiento y seguridad. Sin esta rendición de cuentas, las organizaciones enfrentan mayor responsabilidad y exposición financiera potencial por automatización no verificada.

Qué puedes hacer

• Definir políticas de propiedad: Establecer reglas claras que requieran que un ingeniero nombrado revise y asuma la responsabilidad de cualquier código generado por personal no técnico antes de que interactúe con sistemas de producción.
• Auditar el uso actual: Identificar dónde los empleados están usando actualmente agentes de IA para scripting o análisis de datos y evaluar si estos flujos de trabajo pasan por alto los controles de seguridad existentes.
• Implementar acceso basado en roles: Restringir los agentes autónomos de codificación al personal con formación formal en ingeniería de software o experiencia cuantitativa equivalente, similar al modelo Strat de Goldman.
• Mejorar la monitorización: Desplegar herramientas que registren y analicen patrones de ejecución de código para detectar scripts no aprobados que se ejecutan en dispositivos de empleados, especialmente aquellos que acceden a datos sensibles de clientes.
• Documentar casos de uso: Registrar las necesidades legítimas de negocio identificadas por usuarios restringidos, como el modelado de mercados, para informar el desarrollo de herramientas internas seguras construidas por ingenieros que satisfagan esas demandas.
• Revisar contratos de proveedores: Asegurar que los acuerdos con proveedores de IA definan claramente las regiones soportadas y los derechos de uso para evitar interrupciones súbitas del servicio como la restricción en Hong Kong.