OpenAI, la puesta en marcha detrás del popular chatbot ChatGPT, dijo el jueves que otorgará 10 subvenciones iguales de un fondo de $ 1 millón (alrededor de 8300 millones de rupias) para realizar experimentos en procesos democráticos para determinar cómo se pueden administrar los programas de IA para abordar el sesgo y otros factores. . .
Las subvenciones por valor de $ 100,000 (alrededor de Rs. 82 lakh) se destinarán a los destinatarios que brinden marcos convincentes para responder preguntas como si AI debe criticar a las figuras públicas y qué debe considerar el “individuo promedio” del mundo, según un blog que anuncia el fondo.
Los críticos dicen que los sistemas de IA como ChatGPT tienen un sesgo inherente debido a las entradas utilizadas para dar forma a sus puntos de vista. Los usuarios han encontrado ejemplos de resultados racistas o sexistas de los programas de IA. Crece la preocupación de que la inteligencia artificial trabajando en conjunto con motores de búsqueda como Google de Alphabet y Bing de Microsoft pueda producir información incorrecta de manera convincente.
OpenAI, respaldado por $ 10 mil millones (aproximadamente Rs. 81,950 millones de rupias) de Microsoft, ha liderado el llamado a la regulación de la IA. Sin embargo, recientemente amenazó con abandonar la Unión Europea por las reglas propuestas.
“El borrador actual de la ley de IA de la UE estaría demasiado regulado, pero hemos escuchado que se revertirá”, dijo a Reuters Sam Altmann, director ejecutivo de OpenAI. “Todavía están hablando de eso”.
Las subvenciones para empresas emergentes no financiarán tanta investigación de IA. Los salarios de los ingenieros de inteligencia artificial y otros en el sector hiperactivo superan los $ 100,000 (aproximadamente Rs. 82 lakh) y pueden superar los $ 300,000 (aproximadamente Rs. 2,4 millones de rupias).
OpenAI dijo en una publicación de blog que los sistemas de IA “deberían beneficiar a toda la humanidad y diseñarse para ser lo más inclusivos posible. Estamos lanzando este programa de subvenciones para dar un primer paso en esa dirección”.
La startup de San Francisco dijo que los resultados de la financiación podrían dar forma a sus propios puntos de vista sobre la gobernanza de la IA, aunque dijo que las recomendaciones no serían “vinculantes”.
Altman ha sido una figura destacada que aboga por la regulación de la inteligencia artificial y, al mismo tiempo, ha lanzado nuevas actualizaciones para ChatGPT y el generador de imágenes DALL-E. Este mes compareció ante un subcomité en el Senado de los EE. UU. y dijo que “si esta tecnología se vuelve mala, puede volverse absolutamente mala”.
Microsoft también respaldó recientemente una regulación radical de la IA, incluso después de comprometerse a llevar la tecnología a sus productos, y ha competido con OpenAI, Google y las nuevas empresas para llevar la IA a los consumidores y las empresas.
Casi todos los sectores están preocupados por el potencial de la IA para mejorar la eficiencia y reducir los costos laborales, junto con la preocupación de que la IA pueda difundir información errónea o inexactitudes fácticas, que los expertos de la industria llaman “alucinaciones”.
La inteligencia artificial ya está detrás de muchas de las estafas falsas ampliamente creídas. Una imagen falsa que circuló recientemente de una explosión cerca del Pentágono afectó brevemente al mercado de valores.
A pesar de los llamados a una mayor regulación, el Congreso no ha logrado aprobar una nueva legislación para reducir significativamente las grandes empresas tecnológicas.
© Thomson Reuters 2023