“Las leyes existentes siguen aplicándose”: la Comisión Federal de Comercio organiza una cumbre tecnológica que explora la política de IA |  Blanco y caso LLP

“Las leyes existentes siguen aplicándose”: la Comisión Federal de Comercio organiza una cumbre tecnológica que explora la política de IA | Blanco y caso LLP

Novedades técnicas de White & Case

La semana pasada, el 25 de enero de 2024, la Comisión Federal de Comercio de EE. UU. (FTC) organizó una cumbre pública inaugural sobre políticas de inteligencia artificial (IA), mientras la agencia explora las protecciones antimonopolio y al consumidor que plantea la rápida evolución y despliegue de la tecnología de IA.1 La cumbre reunió a expertos del mundo académico, la industria, organizaciones de la sociedad civil y el gobierno para discutir consideraciones de competencia y protección del consumidor en relación con la IA y la tecnología que la respalda. La FTC calificó la cumbre como un ejercicio de “exploración del cielo” destinado a aprender más sobre la industria y comprender mejor cómo el control de entradas importantes de la IA, como datos, modelos e infraestructura de TI, podría conducir a resultados anticompetitivos, así como a riesgos emergentes para la seguridad y la privacidad de los datos. . .

Una agenda emergente

Los ejecutivos de la FTC en la cumbre destacaron preocupaciones tanto sobre consideraciones anticompetitivas como sobre riesgos de protección del consumidor que surgen de la rápida adopción de grandes modelos lingüísticos y de IA generativa. Las discusiones ilustraron cómo la FTC planea fortalecer la aplicación de la ley en el sector de la IA (que ha estado creciendo durante algún tiempo), pero todavía está aprendiendo sobre la industria y desarrollando su “régimen de rendición de cuentas” de IA, centrándose en la capacidad y el control.

Análisis de competencia

Durante la cumbre, la FTC expresó su preocupación de que las empresas de tecnología establecidas consoliden rápidamente su control sobre el sector de la IA aprovechando su influencia existente sobre los datos de capacitación, Internet, la infraestructura de computación en la nube y los semiconductores.2 en particular a través de la integración vertical entre los desarrolladores de IA y la infraestructura que respalda la tecnología.

La presidenta de la FTC, Lina Khan, argumentó que estas empresas ya tienen poder sobre Internet y los medios digitales y que el gobierno no debería permitir que eso suceda en el desarrollo de la IA. Sugirió que este riesgo puede requerir una solución política para garantizar que los mercados estén abiertos. El enfoque en los riesgos de la integración vertical también sugiere que la FTC está mirando más allá del desarrollo de la IA para considerar a las partes interesadas más profundas dentro de la cadena de suministro de tecnología. La revisión de 2023 de la FTC sobre el mercado de la computación en la nube encaja en este modelo, y el papel de las empresas de computación en la nube parece ser un área de enfoque para la revisión de la FTC del sector de la IA.3

Control de protección al consumidor

La FTC también indicó que tiene la intención de centrarse en las cuestiones de protección del consumidor que surgen tanto del uso nocivo de productos de IA como de las violaciones de la privacidad al recopilar datos de IA.

A la FTC le preocupan los crecientes incentivos para la vigilancia creados por la necesidad de grandes volúmenes de datos de capacitación, lo que sugiere que tales actividades podrían violar las regulaciones de protección al consumidor de la FTC. La FTC está tratando de establecer reglas claras sobre el tipo de datos y aportes creativos que se pueden utilizar para entrenar la IA, pero aún no ha llegado a un enfoque final, al tiempo que señala que la monetización o el uso de algunos datos, como los datos confidenciales de ubicación, es “fuera de la mesa.” Durante el año pasado, la FTC presentó demandas contra varias empresas por supuestamente vender o hacer un mal uso indebido de los datos de los usuarios.4 La presidenta de la FTC, Lina Khan, dijo en la cumbre que las soluciones para los abusos en la recopilación de datos incluirían la eliminación de modelos entrenados con datos recopilados incorrectamente, así como la eliminación de los datos recopilados incorrectamente.5

En cuanto a proteger a los consumidores de aplicaciones dañinas de productos de IA, los líderes de la FTC en la cumbre destacaron las preocupaciones sobre el marketing engañoso de las capacidades de los productos de IA, la discriminación debido a algoritmos sesgados y el fraude asistido por IA, como la clonación de voz.6 Los comisionados reiteraron que se puede responsabilizar a las empresas por la falta de cuidado al implementar la IA. Los comisionados también destacaron que las preocupaciones en materia de protección se extienden más allá de los grandes modelos de lenguajes nuevos y la IA generativa, y también se aplican a enfoques más tradicionales para la toma de decisiones algorítmicas. La FTC ha planteado repetidamente el caso reciente contra el programa de reconocimiento facial de Rite Aid para ilustrar las preocupaciones sobre aplicaciones dañinas y las responsabilidades que conllevan.7

Una nueva encuesta sobre inversiones recientes en IA

Finalmente, en la cumbre, la FTC anunció una investigación de la Sección 6(b) sobre inversiones y asociaciones recientes entre desarrolladores de IA y grandes proveedores de servicios en la nube, otorgando a los investigadores amplia autoridad para estudiar estas inversiones y socios, así como su impacto competitivo.

1 Cumbre tecnológica de la FTC, 25 de enero de 2024, https://www.ftc.gov/news-events/events/2024/01/ftc-tech-summit.
2 “La IA generativa plantea preocupaciones sobre la competencia”, 29 de junio de 2023, https://www.ftc.gov/policy/advocacy-research/tech-at-ftc/2023/06/generative-ai-raises-competition-concerns.
3 “Cloud Computing RFI: Lo que escuchamos y aprendimos”, 16 de noviembre de 2023, https://www.ftc.gov/policy/advocacy-research/tech-at-ftc/2023/11/cloud-computing-rfi – lo que escuchamos y aprendimos.
4 “Qué está pasando en las sombras: La acción de la FTC contra el corredor de datos arroja luz sobre la venta injusta y engañosa de datos de ubicación del consumidor”, 9 de enero de 2024, https://www.ftc.gov/business-guidance/blog/2024/01 /lo-que-va-ensombrece-la-acción-de-la-FTC-contra-el-corredor-de-datos-arroja-luz-la-ubicación-del-consumidor-de-venta-injusta-engañosa.
5 “Empresas de IA: cumpla con sus compromisos de privacidad y confidencialidad”, 9 de enero de 2024, https://www.ftc.gov/policy/advocacy-research/tech-at-ftc/2024/01/ai -companies-uphold- sus-compromisos-de-confidencialidad-privacidad.
6 “Prevención de daños derivados de la clonación de voz habilitada por IA”, 16 de noviembre de 2023, https://www.ftc.gov/policy/advocacy-research/tech-at-ftc/2023/11/preventing-harms-ai – voice clonación habilitada.
7 “Rite Aid prohíbe el uso de reconocimiento facial de IA después de que la FTC dijera que el minorista implementó tecnología sin salvaguardias razonables”, 19 de diciembre de 2023, https://www.ftc.gov/news-events/news/press-releases/2023/12/ rite-aid-prohibe-el-uso-de-reconocimiento-facial-ai-después-de-la-ftc-dice-que-el-minorista-implementó-tecnología-sin-.

Leave a Comment

Your email address will not be published. Required fields are marked *