Los actuales modelos lingüísticos a gran escala tienen deficiencias en el manejo de las diferencias culturales, especialmente un desempeño deficiente al abordar cuestiones de trasfondo cultural no occidental, lo que ha despertado la preocupación de muchos fundadores negros. Se dieron cuenta de que el sesgo eurocéntrico del algoritmo hacía que el modelo de IA no comprendiera las culturas minoritarias, lo que hacía difícil que los resultados se aproximaran a la realidad.
Los fundadores negros notaron que los modelos lingüísticos convencionales a gran escala como ChatGPT tenían deficiencias obvias en el manejo de las diferencias culturales. Cuando estos modelos responden a preguntas que no tienen nada que ver con los antecedentes culturales occidentales, sus respuestas suelen ser demasiado generales y carecen de comprensión de los afroamericanos y sus tradiciones culturales únicas.
Para abordar este problema, durante el año pasado, muchos fundadores negros lanzaron alternativas a ChatGPT dirigidas a comunidades de color. Latimer.AI de John Pasmore está diseñado específicamente para afroamericanos; ChatBlackGPT de Erin Reddick lanzará un producto similar en junio; la IA de la empresa canadiense Spark Plug se centra en brindar apoyo en inglés nativo a los estudiantes negros.
Estos fundadores han declarado que las principales empresas de IA ignoran las culturas minoritarias cuando construyen modelos, lo que da como resultado algoritmos con un evidente sesgo eurocéntrico. Para resolver este problema, recopilaron y entrenaron una gran cantidad de materiales culturales nativos para garantizar que el producto resultante se acerque más a la experiencia real de la comunidad negra.
Además de los modelos de lenguaje, empresas de materiales conocidas como pocstock también están trabajando arduamente para proporcionar datos de entrenamiento más diversificados para evitar imágenes demasiado "racialmente homogéneas" generadas por la IA. Algunos empresarios africanos también se están centrando en incorporar los más de 2.000 idiomas y dialectos de la región en grandes modelos de IA para garantizar que se comprenda plenamente la cultura africana.
Estas innovaciones están ayudando a aliviar las deficiencias culturales de larga data de los modelos convencionales de IA. Algunos analistas creen que la IA inclusiva puede convertirse en un mercado de billones de dólares en el futuro y esperan que más empresarios de color contribuyan en este campo.
El surgimiento de estos productos específicos no solo llena el vacío cultural en los principales modelos de IA, sino que también brinda a las comunidades de color un soporte técnico más cercano a sus propias necesidades culturales. El auge de la IA diversificada indica que el desarrollo futuro de la IA será más inclusivo y justo, y también traerá nuevas oportunidades de desarrollo a la industria de la IA.