11/08/2025 16:48
11/08/2025 16:47
11/08/2025 16:47
11/08/2025 16:46
11/08/2025 16:45
11/08/2025 16:45
11/08/2025 16:45
11/08/2025 16:45
11/08/2025 16:44
11/08/2025 16:44
Buenos Aires » Infobae
Fecha: 11/08/2025 12:49
Los modelos avanzados de IA impulsan sus propios desarrollos y plantean oportunidades y riesgos inéditos (Europa Press) El crecimiento de la inteligencia artificial (IA) hacia sistemas capaces de auto-mejorarse está marcando una etapa de oportunidades y amenazas inéditas, como indicó un informe de MIT Technology Review. Gigantes tecnológicos como Meta y Google ya experimentan con modelos capaces de perfeccionarse, acelerando la innovación y anticipando riesgos difíciles de anticipar. A diferencia de otras tecnologías revolucionarias, la IA puede optimizar de manera autónoma sus procesos y herramientas. Los grandes modelos de lenguaje (LLM) ya pueden, por ejemplo, mejorar los chips donde se ejecutan, entrenar otros modelos con mayor eficacia y proponer nuevas estrategias de desarrollo, transformando radicalmente el sector tecnológico. La auto-mejora de la IA permite optimizar hardware, generar datos sintéticos y perfeccionar algoritmos (Archivo) Mark Zuckerberg, director ejecutivo de Meta, afirmó que busca desarrollar una IA más inteligente que las personas. Para ello, Meta fichó a los investigadores más destacados y creó Meta Superintelligence Labs, pero también orienta sus esfuerzos a que los propios sistemas impulsen su propio rendimiento. En una llamada a inversores, Zuckerberg destacó que el objetivo central es crear modelos con capacidad real de auto-mejora. Esta perspectiva optimista choca con las alertas de expertos como Chris Painter, de METR, para quien la auto-mejora de la IA puede multiplicar riesgos como el hackeo, el diseño de armas o la manipulación social. Según él, existe el peligro de que estos sistemas entren en una “explosión de inteligencia”, superando rápidamente los límites humanos. Por ello, el debate sobre los impactos y regulaciones necesarias atraviesa a todas las grandes tecnológicas, incluidas OpenAI, Anthropic y Google. Mientras tanto, investigadores como Jeff Clune, de la Universidad de Columbia Británica y asesor de Google DeepMind, sostienen que automatizar la investigación en IA es la vía más rápida hacia sistemas realmente poderosos. Gigantes tecnológicos como Meta y Google experimentan con modelos de IA capaces de auto-mejorarse (NewsBytes) A pesar de la relevancia del ingenio humano, la IA comienza a jugar un papel activo en su propio progreso. El análisis del MIT Technology Review identificó cinco vías principales a través de las cuales la IA se auto-mejora: 1. Mejorar la productividad Una de las principales aportaciones inmediatas de los LLM es su capacidad para asistir en el desarrollo de software y otras tareas productivas. Herramientas como Claude Code y Cursor permiten a los ingenieros escribir código con más rapidez y menos errores. Según Sundar Pichai, director ejecutivo de Google, en octubre de 2024 una cuarta parte del nuevo código de la empresa se generó con IA. En Anthropic, los empleados incorporaron Claude Code a múltiples procesos internos. Sin embargo, el impacto en la productividad aún es incierto. Un estudio de METR encontró que, en promedio, los desarrolladores más experimentados tardan un 20% más en completar sus tareas cuando usan asistentes de código basados en IA, aunque estos resultados pueden variar en otros contextos y con usuarios menos experimentados. Herramientas integradas al desarrollo interno de Anthropic, como Claude Code, demostraron el potencial de la IA para acelerar su innovación (Bloomberg) 2. Optimizar la infraestructura La optimización de hardware y procesos es otro terreno donde la IA ya muestra resultados concretos. Azalia Mirhoseini, profesora en Stanford y científica principal en Google DeepMind, lideró proyectos donde la IA determina la disposición óptima de los componentes en chips, mejorando su eficiencia. Esta tecnología fue adoptada en varias generaciones de hardware personalizado de Google. Recientemente, Mirhoseini demostró que los LLM pueden programar funciones técnicas que, en ocasiones, superan la velocidad de las creadas por humanos. Además, Google implementó AlphaEvolve, sistema basado en el modelo Gemini, que escribe y perfecciona algoritmos de manera iterativa. De este modo, la firma tuvo ahorros relevantes de tiempo, dinero y energía. 3. Automatización de la formación La auto-mejora también se manifiesta en la generación de datos sintéticos y la automatización de procesos de entrenamiento. Como los modelos LLM precisan grandes cantidades de información, se emplean IA para generar datos artificiales y para evaluar otros modelos, optimizando así el aprendizaje. El enfoque “LLM como juez”, que aplica Anthropic en Constitutional AI, permite que un modelo evalúe respuestas de otros sistemas, acelerando la capacitación. En el caso de agentes IA dedicados a tareas complejas, el proceso consiste en que un agente LLM sugiere soluciones paso a paso, otro las evalúa y los resultados se reincorporan a nuevos modelos. La especialista Mirhoseini aseguró que este método elimina las barreras de datos reales y permite al sistema generar experiencias prácticamente ilimitadas. El debate sobre la regulación de la IA se intensifica ante el avance hacia la superinteligencia (Imagen Ilustrativa Infobae) 4. Perfeccionar diseño de agentes La aparición de agentes IA capaces de modificar su propia arquitectura abrió un campo de diseño inédito. Tradicionalmente, los LLM se basaban en arquitecturas creadas por humanos; ahora, experimentos como la “Darwin Gödel Machine”, desarrollada por Jeff Clune y la startup Sakana AI, muestran sistemas que repiten sobre sus propios parámetros y herramientas, buscando mejores desempeños. Estos sistemas no solo superan sus versiones anteriores en tareas asignadas, sino que descubren modificaciones innovadoras, desconocidas hasta para sus propios diseñadores, lo que confirma la presencia de auténticos ciclos de auto-mejora dentro de los agentes más avanzados. 5. Avances en la investigación El último gran frente de auto-mejora es la investigación autónoma. Aunque los LLM ya facilitan el trabajo científico, seleccionar preguntas de investigación innovadoras sigue siendo un reto. Clune y Sakana AI desarrollaron el “AI Scientist”, un sistema que explora literatura científica, plantea preguntas, realiza experimentos y redacta resultados. En 2024, el sistema firmó un artículo aceptado en la International Conference on Machine Learning (ICML), lo que constituye un hito para la IA. Por otra parte, el AI Scientist propuso una idea que luego fue presentada por un investigador humano y capturó la atención de la comunidad académica. El científico Clune comparó este momento con la llegada de GPT-1 y anticipa que, en pocos años, la IA redactará artículos para las revistas científicas más prestigiosas y participará en descubrimientos originales. El impacto real de la auto-mejora de la IA sigue siendo incierto y está restringido a grandes laboratorios (Imagen ilustrativa Infobae) Impacto y horizonte de la superinteligencia El debate sobre el avance hacia la superinteligencia continúa abierto. Si bien para Zuckerberg los modelos superinteligentes pueden estar cerca, MIT Technology Review advirtió que el impacto real de la auto-mejora de la IA aún es incierto. AlphaEvolve aceleró el entrenamiento de Gemini en un 1%, pero eso no implica una transformación radical del sector ni garantiza una aceleración sostenida. Evaluar el impacto efectivo de la auto-mejora resulta complejo: los avances relevantes están restringidos a los laboratorios de las grandes compañías. Es así que el futuro de la auto-mejora permanece cargado de incógnitas, y pese a que todo indica que llega una etapa de progreso acelerado, la gran pregunta es cuánto durará ese impulso.
Ver noticia original
 300 x 300 px.gif)
Examedia © 2024
Desarrollado por