El Parlamento de la UE aprobó la tan esperada Ley de IA la semana pasada, lo que la convierte en la primera jurisdicción importante del mundo en introducir reglas integrales para el sector, pero su cumplimiento podría resultar difícil para las empresas emergentes que son nuevas en la regulación.
Si bien algunos aspectos de la Ley de IA están abiertos a interpretación y aún no se han implementado, a algunos fundadores les preocupa que las medidas puedan perjudicar a las empresas más pequeñas y obstaculizar la inversión y la innovación, colocando a Europa aún más por detrás de Estados Unidos y China en la carrera de la IA.
El nuevas reglas, que tienen como objetivo restringir el uso de IA considerada de alto riesgo, como deepfakes y software de reconocimiento facial en áreas públicas, se aplicarán a todas las empresas que implementen IA en los 27 estados miembros de la UE. En total, el bloque representa alrededor del 20% de la economía mundial.
Lea también: El Parlamento de la UE finalmente adopta la Ley de IA
Ley de IA: los efectos colaterales
"Si bien la ley es bastante progresista y probablemente tendrá un efecto en cadena en otras regiones, existen preocupaciones sobre cómo podría afectar la innovación en la UE", dijo a MetaNews Nitish Mittal, socio del grupo tecnológico estadounidense Everest.
Mittal, que dirige la transformación digital y los servicios de TI del Everest en Europa, el Reino Unido e Irlanda, dijo que en las últimas décadas Europa parece "haber quedado atrás de Estados Unidos y China en términos de innovación tecnológica".
Pero también señaló cómo la UE había anticipado tales debilidades y comenzó a prepararse para ellas antes de que la ley, que se espera que se implemente plenamente en los próximos dos años, entre en vigor a finales de este año.
"La UE reconoce algunos de estos desafíos y está tratando de implementar algunas vías para ayudar a las nuevas empresas y la innovación en torno a la IA", dijo Mittal.
A finales de enero, el bloque anunció una serie de medidas destinadas a impulsar la innovación para las nuevas empresas europeas que desarrollan lo que llama una IA "confiable" que "respeta los valores y las normas de la UE".
Dijo que las empresas tendrán “acceso privilegiado a las supercomputadoras” y que la propia UE construirá “fábricas de IA” para garantizar que la infraestructura de IA esté disponible para que las nuevas empresas la compren y la actualicen.
Negocio riesgoso
Incluso antes de que el Parlamento Europeo, el principal órgano legislativo de la UE, votara a favor de la Ley de IA, la ley enfrentó críticas de los fundadores de startups que trabajaban con modelos generativos.
En octubre, Cedric O, fundador de la startup francesa de IA Mistral, dijo que la ley "matará" a su empresa. Al empresario le preocupaba que la ley sometiera un escrutinio excesivo a los grandes modelos lingüísticos, incluso si no se utilizaban para asuntos delicados como la contratación. reportaron.
Jonas Andrulis, director ejecutivo de Aleph Alpha, el rival alemán del creador estadounidense de ChatGPT, OpenAI, dijo que clasificar la "IA de propósito general", como los LLM, como de alto riesgo podría tener consecuencias no deseadas. Peter Sarlin, director ejecutivo de Silo AI de Finlandia, se hizo eco de sus comentarios.
"Si en cierto modo generalizamos la tecnología de IA generativa y decimos que todos los casos de uso que utilizan transformadores generativos preentrenados (GPT) son de alto riesgo, entonces creo que también regularemos muchos casos de uso que no lo son". En realidad, no es de alto riesgo”, dijo Sarlin en ese momento.
No fueron sólo los empresarios los que expresaron su preocupación por la Ley de IA. Un análisis del Departamento de Estado de EE.UU. en octubre advirtió que algunas normas de la ley se basaban en términos “vagos o indefinidos”, según informe de Bloomberg.
El análisis dijo que la Ley de IA de Europa beneficiaría a las empresas tecnológicas más grandes que tienen la influencia financiera para entrenar modelos de IA y sistemas de aprendizaje automático. Es probable que las empresas más pequeñas sufran pérdidas, añadió.
La Ley de IA describe diferentes categorías de riesgo de uso de IA, que van desde "bajo riesgo" hasta "alto" e "riesgo inaceptable". Las aplicaciones de inteligencia artificial que se consideren una amenaza a los derechos individuales, como la puntuación social o el software de reconocimiento facial en lugares públicos, serán prohibidas por completo.
Los casos de uso sensibles de “alto riesgo” que se permitirán incluyen aspectos como la gestión de fronteras, la educación y el reclutamiento. Las empresas que utilicen dichas tecnologías deberán revelar más información sobre los datos utilizados para entrenar sus sistemas.
Adaptarse a la Ley de IA
"Si bien la Ley fomenta el desarrollo ético de la inteligencia artificial, también introduce requisitos y obligaciones específicos, especialmente para los sistemas de IA de alto riesgo". miguel borrelli, dijo a MetaNews el director ejecutivo de AI & Partners, con sede en Londres.
Borrelli, cuya firma ayuda a las empresas con el cumplimiento normativo en Europa, agregó que las nuevas reglas podrían requerir ajustes en la forma en que las nuevas empresas operan e innovan.
"La necesidad de cumplir con estas regulaciones puede plantear desafíos inicialmente, pero en última instancia tiene como objetivo fomentar un ecosistema de IA más seguro y confiable, mejorando potencialmente el crecimiento y la competitividad global de las empresas emergentes europeas", explicó.
El problemas mayores La cuestión planteada por los fundadores de startups se relaciona con cómo la nueva legislación clasifica todos los modelos de IA generativa como de alto riesgo, incluso cuando las empresas detrás de ellos enfrentan diferentes desafíos.
Nitish Mittal, socio del Grupo Everest, quiso enfatizar que ciertos sectores categorizados como de alto riesgo "probablemente necesitarán más salvaguardias y comprensión" sobre cómo esto se aplicará a sus empresas y las "medidas que deben tomar".
"Todas las organizaciones deberán examinar más detenidamente los datos y todos los aspectos que los rodean", nos dice Mittal.
"Por ejemplo, quién es el propietario de los datos que utilizan, si los utilizan para entrenar sus modelos, cómo trabajan con socios y clientes, etc.", añadió.
Competir con Estados Unidos
Europa va a la zaga de Estados Unidos en el número de grandes empresas de IA generativa, pero continúa fomentando un ecosistema activo de actores más pequeños. Algunos de los más notables incluyen Mistral AI, Iris AI con sede en Oslo, Zeta Alpha con sede en Ámsterdam y otros.
La Ley de IA reconoce esta diferencia y se dirige directamente a la comunidad de startups europea. Como destacó Michael Borrelli, la ley exige acceso prioritario a los entornos de pruebas regulatorios de IA para las pequeñas y medianas empresas, incluidas las nuevas empresas.
También ofrece medidas para apoyar la innovación, como organizar actividades de sensibilización y "actividades de formación adaptadas a las PYME y reducir las tasas de las evaluaciones de conformidad proporcionalmente a su tamaño", dijo.
Pero es poco probable que los fondos de riesgo inviertan en nuevas empresas clasificadas por la Ley de IA como de alto riesgo. conforme según una encuesta de 2023 de 14 capitalistas de riesgo europeos realizada por la Iniciativa para la IA Aplicada. Once de los fondos dijeron que era menos probable que invirtieran en empresas con una calificación de alto riesgo, y ocho dijeron que eso tendría un impacto negativo en la valoración de la startup.
Para Borrelli, el hecho de que EE. UU. todavía esté tratando de encontrar el marco legal adecuado para la IA (actualmente está menos centralizado y varía según el estado) significa que la Ley de IA de la UE, que proporciona un conjunto armonizado de reglas para todo el mercado europeo. , tiene ventaja.
"Esta armonización puede ofrecer un entorno regulatorio claro y consistente para las empresas emergentes, lo que potencialmente facilitará su escalamiento en toda la UE sin tener que navegar por regulaciones dispares", dijo.
Pero advirtió que el enfoque regulatorio colectivo también podría “ralentizar [la] rápida ampliación” de los productos de inteligencia artificial.
"Los estrictos requisitos para los sistemas de IA de alto riesgo y el enfoque en el desarrollo ético de la IA exigen que las nuevas empresas europeas inviertan más en cumplimiento y consideraciones éticas que sus homólogos estadounidenses", explicó Borrelli.
- Distribución de relaciones públicas y contenido potenciado por SEO. Consiga amplificado hoy.
- PlatoData.Network Vertical Generativo Ai. Empodérate. Accede Aquí.
- PlatoAiStream. Inteligencia Web3. Conocimiento amplificado. Accede Aquí.
- PlatoESG. Carbón, tecnología limpia, Energía, Ambiente, Solar, Gestión de residuos. Accede Aquí.
- PlatoSalud. Inteligencia en Biotecnología y Ensayos Clínicos. Accede Aquí.
- Fuente: https://metanews.com/what-does-the-eus-ai-act-mean-for-startups/
