Recientemente, el trabajo de mejora del modelo Gemini AI de Google ha causado controversia. Según TechCrunch, los contratistas de Google compararon las respuestas de Gemini con el resultado del competidor de Anthropic, Claude, para evaluar el desempeño de Gemini. La medida plantea dudas sobre si Google utilizó los datos de Claude sin autorización y si violó los términos de servicios comerciales de Anthropic, ya que Anthropic es uno de los principales inversores de Google. El incidente resalta la intensidad de la competencia en el campo de la IA y la importancia del uso de datos y las cuestiones de cumplimiento.
La competencia entre los gigantes tecnológicos en el campo de la IA es cada vez más feroz, y una noticia reciente ha vuelto a poner en primer plano la corriente subyacente de la competencia industrial. Según comunicaciones internas obtenidas por TechCrunch, el contratista responsable de mejorar el modelo de inteligencia artificial Gemini de Google estaba comparando sus respuestas con el resultado del modelo competidor Claude de Anthropic. La medida generó dudas sobre el cumplimiento por parte de Google de la autorización de Anthropic para utilizar Claude para realizar pruebas.
A medida que las empresas de tecnología compiten para desarrollar mejores modelos de IA, el rendimiento del modelo generalmente se evalúa a través de puntos de referencia de la industria, en lugar de que los contratistas gasten mucha energía en evaluar las respuestas de IA de los competidores. Sin embargo, según los informes, los contratistas de Gemini deben calificar cada respuesta que ven según múltiples criterios, incluida la autenticidad y la verbosidad. El contratista tiene hasta 30 minutos para decidir si la respuesta de Gemini o Claude es mejor.
Los contratistas notaron que las respuestas de Claude parecían enfatizar más la seguridad que las de Gemini, según muestran los registros de chat internos. Un contratista dijo: "De todos los modelos de IA, Claude tiene la configuración de seguridad más estricta". En algunos casos, Claude no responde a las palabras que considera inseguras, como pretender ser un asistente de IA diferente. En otra prueba, Claude evitó responder cierta palabra y la respuesta de Gemini fue marcada como una "grave violación de seguridad" por incluir "desnudez y moderación".
Los términos de servicios comerciales de Anthropic prohíben específicamente a los clientes acceder a Claude "para crear productos o servicios competitivos" o "entrenar modelos de IA competitivos" sin aprobación. Vale la pena señalar que Google es el principal inversor de Anthropic. Estos antecedentes han aumentado las dudas del mundo exterior sobre el cumplimiento conductual de Google.
En respuesta, McNamara, portavoz de Google DeepMind (responsable de Gemini), dijo que DeepMind "compara los resultados del modelo" para su evaluación, pero no entrena a Gemini en el modelo antrópico. "Por supuesto, como es práctica en la industria, en algunos casos comparamos los resultados del modelo como parte del proceso de evaluación", dijo McNamara. "Sin embargo, cualquier sugerencia de que utilizamos el modelo Antrópico para entrenar a Gemini es inexacta".
Aunque Google niega haber utilizado a Claude para entrenar a Gemini, su retórica de "comparar los resultados del modelo" sigue siendo ambigua y no puede eliminar por completo las dudas externas. El incidente ha vuelto a generar preocupaciones sobre el uso y el cumplimiento de los datos durante el desarrollo de modelos de IA. En el ferozmente competitivo campo de la IA, cómo mantener una competencia leal y respetar los derechos de propiedad intelectual se convertirá en una cuestión importante que requerirá atención y debate continuos durante el desarrollo de la industria.
La explicación de Google sobre el incidente no eliminó por completo las dudas del público, lo que refleja la feroz competencia en el campo de la IA y la gravedad de los desafíos de cumplimiento de datos. En el futuro, la industria necesitará establecer reglas y estándares más claros para garantizar una competencia leal y la protección de la propiedad intelectual.