El pasado martes Meta (Facebook) e IBM anunciaban la firma de un acuerdo en conjunto llamado AI Alliance para impulsar la inteligencia artificial y el código abierto junto a corporaciones, universidades y organizaciones que están comprometidas colectivamente con la «ciencia abierta» y las «tecnologías abiertas» según Ian Krietzberg en The Street.

La Alianza, según un comunicado, estará «orientada a la acción» y tendrá como objetivo dar forma a una mejor evolución equitativa de la tecnología.

Algunos miembros destacados de la organización incluyen AMD, la Universidad de Cornell, la Universidad de Harvard, la Universidad de Yale, la NASA, Hugging Face e Intel.

El objetivo del grupo, según un comunicado, es potenciar la innovación responsable garantizando la confianza, la seguridad y el rigor científico. Para lograr ese objetivo, impulsará el desarrollo de puntos de referencia y estándares de evaluación, apoyará el desarrollo de habilidades de IA en todo el mundo y destacará el uso responsable de la IA por parte de los miembros.

La Alianza, que planea asociarse con iniciativas gubernamentales y sin fines de lucro, dijo que establecerá una junta directiva y un comité de supervisión técnica para ayudar al grupo a lograr esos objetivos, pero aún no lo ha hecho. La organización no dijo cuándo se establecería esta junta.

El vicepresidente senior de IBM, Darío Gil, escribió el martes que a la luz del reciente drama en OpenAI, es aún más importante que la IA no quede relegada sólo a «unas pocas personalidades e instituciones».

«El futuro de la IA se acerca a una bifurcación en el camino. Un camino está peligrosamente cerca de crear un control consolidado de la IA, impulsado por un pequeño número de empresas que tienen una visión cerrada y propietaria de la industria de la IA«, dijo Gil.

«Por el otro camino hay un camino amplio y abierto: una carretera que pertenece a muchos, no a unos pocos, y está protegida por las barandillas que creamos juntos», añadió Gil

Transparencia crítica en IA

La declaración proporcionada por las empresas no detalla cómo lograrán y garantizarán la seguridad o responsabilidad de estos modelos de IA compartidos.

Aún así, la premisa de la Alianza da lugar a un elemento clave del debate sobre la IA: tecnología cerrada versus tecnología de código abierto.

Los modelos de código cerrado, que incluyen ChatGPT, creado por OpenAI, y los modelos producidos por Microsoft y Alphabet-A, son cerrados, lo que significa que, si bien los usuarios pueden interactuar con la tecnología a través de una interfaz de Internet, nadie más que las propias empresas tiene acceso al software o los datos de entrenamiento.

Mientras tanto, los modelos de código abierto, como Llama de Meta y el modelo geoespacial de IBM, que fue de código abierto a través de Hugging Face, están diseñados para una mayor accesibilidad.

Los defensores de la IA de código abierto afirman que el método democratiza la tecnología, algo a lo que se refiere la Alianza en su declaración, y además permite el tipo de transparencia que es tan vital (y a menudo falta) en la industria.

Con los modelos de código cerrado, la investigación de modelos individuales es casi imposible, lo que dificulta que los investigadores, y luego los reguladores, comprendan las capacidades legítimas de un modelo determinado, así como el costo ambiental de entrenar y ejecutar dicho modelo.

«Con los grandes modelos de lenguaje, la mayoría son de código cerrado, por lo que realmente no se tiene acceso a sus detalles», dijo la Dra. Sasha Luccioni, experta en inteligencia artificial, a TheStreet en junio. «Y por eso es difícil hacer algún tipo de estudio significativo sobre ellos porque no se sabe hacia dónde se dirigen, qué tan grandes son. No se sabe mucho sobre ellos».

El investigador de IA, el Dr. John Licato, dijo a TheStreet en mayo que la clave para lograr una IA ética y segura gira en torno a una investigación transparente de los modelos actuales.

“Cuando esa investigación es realizada sólo por empresas con fines de lucro, es entonces cuando es mucho más probable que sucedan todas las cosas que tememos que puedan suceder con la IA«, añadió Licato

Los críticos del código abierto, sin embargo, afirman que un modelo abierto es mucho más propenso a ser mal utilizado.

El experto en IA Gary Marcus dijo en una publicación de noviembre que «nadie tiene garantías positivas sólidas de que no haya posibles consecuencias graves de la IA de código abierto», en términos del potencial de generación de información errónea y la creación de armas biológicas.

«Dicho esto, no tenemos ninguna garantía positiva sólida», añadió Marcus.

Clément Delangue, cofundador y director ejecutivo de Hugging Face, respondió a la publicación de Marcus, diciendo que sus puntos también se aplican a la IA que no es de código abierto, y en una escala potencialmente mayor, ya que la IA propietaria se implementa en masa.

«El código abierto es la única manera de mantener bajo control el código no abierto«, afirmó Delangue. «Sin él, tendrás una concentración extrema de poder/conocimiento/secreto con un riesgo 1.000 veces mayor. El código abierto es más la solución que el problema para los riesgos de la IA».

De hecho, los problemas de la falta de toma de decisiones democráticas en torno a estas tecnologías, y la forma en que eso puede afectar la regulación, tienen una letanía de expertos más preocupados por la IA que por cualquier otra cosa.

La Alianza no es una «solución milagrosa»

“Esos problemas de concentración de poder en la IA se aplican incluso a IBM y la AI Alliance de Meta”, dijo a TheStreet el experto en IA y CPO de Ivanti, Srinivas Mukkamala.

“La Alianza parece ser el intento del sector privado de lidiar con las formas en que la IA podría cambiar el mundo y las complejidades en torno a cómo se regulará la tecnología”, indicó Mukkamala.

“La Alianza por sí sola, si bien es un paso noble, no es suficiente para abordar todas las cuestiones importantes”, afirmó Mukkamala.

«Si bien la AI Alliance está intentando resolver muchos de los problemas previsibles creados por la IA, todavía no hemos comenzado a luchar por crear un acceso verdaderamente equitativo a los datos«, destacó Mukkamala. «La AI Alliance no es la solución milagrosa que podrá abordar todos los riesgos y las desigualdades de la IA».

«Necesitamos tener más alianzas además de esta que aborda la gobernanza y el uso de la IA, y asegurarnos de que no estamos concentrando el poder en manos de unos pocos afortunados», añadió Mukkamala.

Su opinión es compartida por el público estadounidense.

Las encuestas del Instituto de Políticas de Inteligencia Artificial han revelado que una parte abrumadora de la población no confía en que las empresas de tecnología se autorregulan en lo que respecta a la IA.

La mayor preocupación de Mukkamala es un mundo en el que la adopción desigual de la IA acelera la desigualdad y la pobreza globales a un ritmo enorme.

«Debemos tomar medidas ahora para evitar un futuro de ricos y pobres digitales, y si bien la Alianza de IA es un comienzo, para anticipar y resolver verdaderamente los peligros de la IA necesitamos más supervisión y cooperación global«, dijo Mukkamala.

Independientemente del impacto que tendrá la Alianza, los ejecutivos de IBM han compartido públicamente la impresión de que todos deberían ser parte de la conversación regulatoria.

«No se puede dejar que las reglas las escriban un puñado de empresas que son las más poderosas del mundo en este momento», dijo a TheStreet Christina Montgomery, directora de privacidad de IBM, en una entrevista en septiembre. «Estamos muy preocupados de que eso influya en el entorno regulatorio de alguna manera que no sea útil en términos de innovación».

IBM cotiza en la tarde del lunes al alza en los 162.20 dólares. Las medias móviles de 70 y 200 periodos se mantienen por debajo del precio, RSI al alza en los 78 puntos y las líneas del MACD se mantienen sobre el nivel de cero.

La resistencia a mediano y largo plazo se encuentra a unos céntimos del precio actual, en los 162.78 dólares. Mientras, los indicadores de Ei se muestran en su mayoría alcistas.

Meta (Facebook) cotiza a la inversa que la anterior hasta los 324.84 dólares. La media móvil de 70 periodos se mantiene por debajo de las últimas velas, RSI  a la baja en los 49 puntos y las líneas del MACD se mantienen sobre el nivel de cero.

La resistencia a largo plazo se encuentra en los 352.69 dólares. Mientras, los indicadores de Ei se muestran mixtos.

Valores favoritos para invertir

Descubre fácilmente las novedades sobre estos y otros valores favoritos para invertir o en los que estás invertido.  

En la sección de favoritos, tendrás todo lo relevante de un solo vistazo sobre la cotización, módificación de ciclo bursatil, noticias y análisis relacionados con esos valores.

Muy fácil de seleccionar y podrás incluso dividirlos por listas de interés.  Descubrelo aqui.

Estrategias de Inversión