Google, el gigante tecnológico conocido por su innovación constante, ha dado un paso significativo en el campo de la inteligencia artificial (IA) al anunciar el lanzamiento de nuevos modelos de IA "abiertos" que ponen un énfasis especial en la seguridad. Este movimiento representa un hito importante en la evolución de la IA y tiene el potencial de transformar la manera en que interactuamos con la tecnología en el futuro.

¿Que significa un modelo de IA abierto?

En primer lugar, es fundamental comprender qué significa exactamente que estos modelos sean "abiertos". En el contexto de la IA, un modelo abierto implica que el código fuente y los parámetros del modelo están disponibles para que otros desarrolladores, investigadores y empresas los examinen, modifiquen y utilicen. Este enfoque contrasta con los modelos propietarios cerrados que han sido la norma en muchas empresas tecnológicas durante años.

La decisión de Google de adoptar un enfoque más abierto en el desarrollo de la IA es digna de elogio por varias razones. En primer lugar, fomenta la colaboración y la innovación en toda la comunidad tecnológica. Al permitir que otros expertos examinen y contribuyan al desarrollo de estos modelos, Google está aprovechando la inteligencia colectiva de la comunidad global de IA. Esto puede conducir a mejoras más rápidas y a descubrimientos innovadores que podrían no haber sido posibles en un entorno cerrado.

Además, la transparencia que viene con los modelos abiertos puede ayudar a generar confianza entre los usuarios y las partes interesadas. En una era en la que la privacidad y la seguridad de los datos son preocupaciones primordiales, la capacidad de examinar cómo funcionan estos modelos de IA puede proporcionar una mayor tranquilidad a los consumidores y reguladores por igual.

Google pone énfasis en la seguridad de sus nuevos modelos IA

Sin embargo, el aspecto más notable de este anuncio es el énfasis de Google en la seguridad. La empresa ha declarado que estos nuevos modelos se han desarrollado con un enfoque específico en garantizar que sean seguros y éticos en su funcionamiento. Este compromiso con la seguridad es crucial, dado el creciente papel que la IA está desempeñando en nuestras vidas cotidianas.

La seguridad en la IA abarca varios aspectos. Incluye la protección contra el uso malintencionado de la tecnología, la prevención de sesgos y discriminación en los resultados de la IA, y la garantía de que los sistemas de IA sean robustos y fiables. Google ha indicado que ha implementado varias medidas para abordar estos problemas en sus nuevos modelos.

Una de las características de seguridad más destacadas es la implementación de salvaguardias éticas en el núcleo de los modelos. Esto significa que los modelos están diseñados desde el principio para respetar ciertos principios éticos, como la privacidad, la equidad y la no discriminación. Por ejemplo, los modelos pueden estar programados para evitar la generación de contenido ofensivo o la propagación de desinformación.

Otro aspecto importante de la seguridad es la robustez del modelo. Google ha trabajado para asegurar que estos nuevos modelos sean resistentes a los ataques adversarios y a las manipulaciones. Esto es crucial en un mundo donde los ciberataques son cada vez más sofisticados y frecuentes.

Además, la empresa ha puesto un gran énfasis en la transparencia y la explicabilidad de los modelos. Esto significa que los modelos no solo pueden proporcionar resultados, sino también explicar cómo llegaron a esas conclusiones. Esta característica es particularmente importante en aplicaciones críticas como la atención médica o los sistemas judiciales, donde es esencial entender el razonamiento detrás de las decisiones de la IA.

El lanzamiento de estos modelos también plantea algunas preguntas interesantes sobre el futuro de la IA. ¿Seguirán otras grandes empresas tecnológicas el ejemplo de Google y adoptarán un enfoque más abierto? ¿Cómo afectará esto al panorama competitivo de la IA? ¿Y cómo responderán los reguladores a estos desarrollos?

Es importante señalar que, si bien el enfoque de Google en la seguridad y la apertura es encomiable, todavía hay desafíos por delante. La implementación de modelos de IA seguros y éticos es un proceso continuo que requiere vigilancia constante y adaptación a medida que surgen nuevas amenazas y desafíos.

¿Cuales son estos nuevos modelos de IA de código abierto?

Estos nuevos modelos son parte de la familia Gemma 2 de Google, que debutó en mayo pasado. Los modelos recién lanzados, Gemma 2 2B, ShieldGemma y Gemma Scope, están diseñados para aplicaciones y casos de uso ligeramente diferentes, pero comparten en común un enfoque de seguridad.

A diferencia de los modelos Gemini de Google, cuyo código fuente no se hace público y que se utilizan tanto en los propios productos de Google como a disposición de los desarrolladores, la serie Gemma es el esfuerzo de Google por fomentar la buena voluntad dentro de la comunidad de desarrolladores, de manera similar a lo que está intentando hacer Meta con Llama.

Gemma 2 2B es un modelo ligero para generar y analizar texto que puede ejecutarse en una variedad de hardware, incluyendo laptops y dispositivos edge. Está licenciado para ciertos usos de investigación y comerciales, y se puede descargar de fuentes como la biblioteca de modelos de Vertex AI de Google, la plataforma de ciencia de datos Kaggle y el kit de herramientas de Google AI Studio.

Por su parte, ShieldGemma es una colección de "clasificadores de seguridad" que intentan detectar contenido tóxico como discurso de odio, acoso y contenido sexualmente explícito. Construido sobre Gemma 2, ShieldGemma puede utilizarse para filtrar indicaciones a un modelo generativo, así como el contenido que el modelo genera.

Por último, Gemma Scope permite a los desarrolladores "hacer zoom" en puntos específicos dentro de un modelo Gemma 2 y hacer que su funcionamiento interno sea más interpretable. En palabras de Google: "Gemma Scope está compuesto por redes neuronales especializadas que nos ayudan a desentrañar la información densa y compleja procesada por Gemma 2, expandiéndola en una forma más fácil de analizar y comprender. Al estudiar estas vistas expandidas, los investigadores pueden obtener valiosas ideas sobre cómo Gemma 2 identifica patrones, procesa información y, en última instancia, hace predicciones".

El lanzamiento de estos nuevos modelos Gemma 2 llega poco después de que el Departamento de Comercio de Estados Unidos respaldara los modelos de IA abiertos en un informe preliminar.

Según el informe, los modelos abiertos amplían la disponibilidad de la IA generativa para empresas más pequeñas, investigadores, organizaciones sin fines de lucro y desarrolladores individuales, al mismo tiempo que destacan la necesidad de capacidades para monitorear dichos modelos en busca de posibles riesgos.