¿Qué es la Inteligencia Artificial General?
Una nueva era está iniciando en OpenAI . La empresa de Inteligencia Artificial anunció que ya está trabajando en su nuevo modelo , mismo que ya comenzó a entrenarse y será uno de los avances más importantes. De acuerdo con una publicación oficial en el blog de la compañía, este nuevo servicio dará como resultado sistemas capaces de “llevar al siguiente nivel nuestras capacidades” en el camino hacia la inteligencia artificial general . La AGI , como también se le conoce a este término, es una de los hitos más importantes que se busca conseguir en la industria tecnológica, pues representa la creación de un software casi tan inteligente como el ser humano e incluso con la capacidad de aprender por su propia cuenta.
OpenAI crea una nueva junta de seguridad
Es decir, al alcanzar este punto, el software será capaz de llevar a cabo labores para las que originalmente no estaba necesariamente entrenado o desarrollado, lo cual representa una evolución importante en cómo se ve a la IA. Algunas de las características a tomar en cuenta de la IA general es que tendría control autónomo, un grado razonable de comprensión y la capacidad de aprender nuevas habilidades, incluso resolver problemas complejos en entornos para los cuales no estaba entrenada. Hasta la actualidad se han alcanzado algunos hitos para llegar a este punto, como los modelos de machine learning capaces de extraer puntos importantes de documentos y generar resúmenes comprensibles. En la ciencia ficción, este punto se describe como una máquina capaz de pensar por sí misma y tener comprensión humana. En este contexto, la empresa anunció la creación de un Comité de Seguridad cuya responsabilidad será hacer recomendaciones a la junta directiva “sobre las decisiones críticas de seguridad para proyectos y operaciones de OpenAI”.
Este nuevo equipo sustituirá a uno anterior que se disolvió y el cual se centraba en los riesgos a largo plazo de los desarrollos de OpenAI. Esta junta estaba liderada por los cofundadores Ilya Sutskever y Jan Leike, quienes renunciaron a mediados de mayo. Tras su salida, Leike escribió que “la cultura y los procesos de seguridad de OpenAI han pasado a un segundo plano frente a los productos brillantes”, lo cual fue una dura crítica hacia el reciente accionar de la empresa por priorizar la tecnología sobre la seguridad. Ahora, la nueva junta de supervisión estará compuesta por el CEO de la empresa, Sam Altman, así como otros miembros de la junta directiva de OpenAI, como Bret Tayler, Adam D’Angelo y Nicole Seligman. Durante los próximos tres meses, anunció la compañía en el blog, el equipo de seguridad evaluará los procesos y compartirá sus recomendaciones sobre los procesos que estén llevando a cabo con el fin de atender las preocupaciones en torno al desarrollo de nuevas tecnologías.
]]>
