Ph.d.-stipendiat i informatikk - KI-tryggleik

Ph.d.-stipendiat i informatikk – KI-tryggleik

Ved Institutt for informatikk er det ledig ei stilling som ph.d.-stipendiat i informatikk – KI-tryggleik. Stillinga er for ein åremålsperiode på tre år, med høve til eit fjerde år som består av karrierefremmande arbeid (til dømes undervisning). Stillinga er finansiert av Universitetet i Bergen.

Om prosjektet/arbeidsoppgåver

Denne stillinga har som mål å fremje vitskapleg forståing av dei interne mekanismane, feilmodusane og samkøyringseigenskapane (alignment) i moderne KI-verktøy som LLM-ar (store språkmodellar). Den som blir tilsett, vil bidra til forsking som kombinerer konseptuell grundigheit med empirisk analyse, og på den måten vere med på å byggje eit kunnskapsbasert fundament for tryggare og meir forståelege KI-system.

Aktuelle tema kan vere:

• Å forstå «emergent» åtferd og representasjonslæring i LLM-ar
• Utvikling av kausale eller mekanistiske tilnærmingar til tolking