Nueva York pone freno a la «IA Abogada»: Avanza ley que prohíbe el asesoramiento legal automatizado

En un movimiento sin precedentes para regular el avance de la inteligencia artificial, el Senado del Estado de Nueva York ha dado un paso decisivo al avanzar con el Proyecto de Ley S7263. La legislación busca prohibir estrictamente que los sistemas de IA proporcionen asesoramiento legal, médico o profesional especializado sin la supervisión directa de un humano con licencia.

El fin de las «consultas rápidas» con chatbots

El proyecto surge como respuesta a la creciente tendencia de ciudadanos que recurren a herramientas como ChatGPT o Claude para redactar contratos, interpretar leyes complejas o incluso buscar diagnósticos médicos. Bajo esta nueva normativa, los operadores de IA tienen prohibido permitir que sus sistemas emitan respuestas que, de ser realizadas por una persona, constituirían el ejercicio ilegal de una profesión.

«La tecnología debe ser una herramienta para el profesional, no un sustituto que ponga en riesgo los derechos y la salud de los neoyorquinos», señaló uno de los promotores de la ley en el Senado.

Puntos clave de la regulación:

• Responsabilidad Civil: A diferencia de normativas anteriores, esta ley permite a los ciudadanos demandar a las empresas tecnológicas si reciben un consejo erróneo de una IA que les cause daños económicos o personales.

• Adiós a las letras pequeñas: Las empresas ya no podrán escudarse únicamente en avisos legales (disclaimers) que digan «esta IA no es un abogado». Si el sistema ofrece asesoramiento sustancial, la empresa será responsable.

• Transparencia obligatoria: Todo chatbot que interactúe con el público en Nueva York deberá declarar de forma clara y visible que el usuario está hablando con una máquina y no con un profesional certificado.

El impacto en el sector tecnológico

Expertos legales sugieren que esta ley podría obligar a las grandes tecnológicas a implementar filtros geográficos o «bloqueos de respuesta» específicos para los residentes de Nueva York cuando realicen consultas técnicas sobre leyes estatales o procedimientos médicos.

Mientras que los colegios de abogados han aplaudido la medida como una protección necesaria contra las «alucinaciones» de la IA, algunos defensores de la tecnología argumentan que esto podría limitar el acceso a información básica para comunidades de bajos recursos que no pueden costear honorarios profesionales.