Es uno de los temores fundamentales de la ciencia ficción desde hace décadas: ¿qué pasa si una computadora «toma conciencia» y decide «atacarnos»? Por suerte hay muchos científicos ya trabajando en cómo controlar la Inteligencia Artificial (IA), entre ellos uno de Israel.
De hecho, el profesor Yonatan Belinkov, de la Facultad de Ciencias de la Computación del Technion, la famosa universidad tecnológica en Haifa, en el norte del país, acaba de ganar un subsidio para desarrollar su trabajo.
Belinkov y el doctor David Bau, de la Northeastern University, de Boston, en el estado norteamericano de Massachusetts, recibieron la subvención de parte de la organización Open Philanthropy para solventar «una iniciativa de investigación para controlar la inteligencia artificial», según se informó.
«Nuestra iniciativa -señaló el investigador del Technion– tiene como objetivo desarrollar métodos para rastrear y analizar el conocimiento del mundo» en los «grandes modelos de lenguaje» que utilizan los sistemas de IA.
«Esperamos que esta investigación nos ayude a lidiar con los comportamientos emergentes e inesperados de los sistemas de Inteligencia Artificial, incluido el comportamiento potencialmente dañino«, añadió.
«Es importante que los objetivos de estos sistemas estén alineados con los mejores intereses de la humanidad»
A través de sus investigaciones, Belinkov quiere encontrar «nuevas formas de controlar las capacidades inesperadas que pueden surgir en los sistemas de IA».
ברכות 👏👏לד"ר יונתן בלינקוב @boknilev מהפקולטה למדעי המחשב ע"ש טאוב על זכייתו במענק מחקר מטעם Open Philanthropy @open_phil
— Technion Israel (@TechnionLive) January 19, 2023
ד"ר בלינקוב זכה במענק יחד עם @davidbau מ- @KhouryCollege המענק ניתן להם על "יוזמה לשליטה בת-פירוש בבינה מלאכותית". כל הכבוד!!https://t.co/dGcH1zf5ud pic.twitter.com/GHQdiuhIfa
A medida que las decisiones automáticas tomadas por los dispositivos de IA afectan cada vez más a nuestra sociedad, «es importante que los objetivos de estos sistemas estén alineados con los mejores intereses de la humanidad», apuntaron desde el Technion.
Eso es especialmente importante «incluso cuando sus capacidades eventualmente superen a los humanos«, añadieron.
Con el objetivo de estudiar cómo controlar la Inteligencia Artificial, los dos investigadores buscarán abrir la «caja negra» de la IA y «cerrar la brecha con el conocimiento humano».
¿Cómo lo harán? Belinkov y Bau apuesta por el desarrollo de «herramientas interpretables» para mapear, evaluar y controlar el procesamiento del conocimiento dentro de grandes modelos de lenguaje de los equipos de IA.
«Dichas herramientas facilitarían el estudio de formas de mejorar los desafíos serios de alineación en áreas críticas como la desinformación, el sesgo y la privacidad», concluyó el reporte de la universidad israelí.
