Yuichiro Chino/Getty ImagesForskere med kunstig intelligens (AI) finner i økende grad måter å bryte sikkerheten til generative AI-programmer, slik som ChatGPT, så det var bare et spørsmål om tid før noen brukte de samme cybersikkerhetsteknikkene for å granske brukere for å undersøke datakilder.
På onsdag avduket oppstartsselskapet IndyKite i San Francisco sitt bud for å bekrefte hva som går inn i Gen AI som kjernen i spådommene.
Programvaren “hjelper til å sikre “innbakt” troverdighet til utnyttede data i enhver forretnings- eller analysemodell, ved å bruke en identitetssentrisk tilnærming til data der tillit er avgjørende,” sa IndyKite.
Dessuten: ChatGPT kan lekke treningsdata, krenke personvernet, sier Googles DeepMind
Tre år gamle IndyKite har stamtavlen for identitetshåndteringsområdet for cybersikkerhet som er best assosiert med Okta, mer formelt kjent som “identitets- og tilgangsadministrasjon,” eller IAM.
IAM-feltet har utvidet seg de siste årene til å ta utfordringer utover bare å sikre bedriftsnettverk og -applikasjoner. For eksempel har Google innlevert patenter knyttet til anvendelsen av IAM til Web 3, de blokkjedebaserte distribuerte systemene som styrer alt fra tingenes internett til kryptovalutaer. Teknologien er utviklet for å veterinære tilgang til sensitive data som forbrukernes medisinske historier uten at dataene blir kopiert fra en database til en annen.
Også: Generativ AI kan enkelt gjort ondsinnet til tross for autovern, sier lærde
Selv om detaljer om IndyKite-systemet så langt er begrenset, er det lett å se hvordan man kan utvide tilgangen til forbrukerdata via identitet til tilgang til datakilder for Gen AI.
Generativ AI som OpenAIs ChatGPT har vært i fokus for kontroverser på grunn av måten programmet trenes på store datasett som kompromitterer flere hundrevis av gigabyte med data.
Datasettene er gjenstand for flere søksmål fra parter, inkludert The New York Times, med påstand om brudd på opphavsrett.
OpenAI har sagt at de vil holde bedriftsbrukere av programvaren skadesløs mot søksmål.
I tillegg til bruddspørsmål, arbeider skapere av Gen AI med spørsmål om hvor autoritative svar vil komme fra. Tilnærmingen kjent som “gjenfinning-augmented generation” søker å koble store språkmodeller som GPT-4 med databaser som et sannhetens orakel. RAG-tilnærmingen gir imidlertid sine egne utfordringer med å håndtere datadrift, noe som kan bidra til en nevrale nettverksmodells skjevhet.
Også: Hybrid AI og apper vil være i fokus i 2024, sier Goldman Sachs CIO
I teorien kan alle disse problemene håndteres med metoder som garanterer opprinnelsen til data før de tas inn i opplæringen av programmene.
IndyKite-gründer Lasse Andresen er en seriegründer som tidligere grunnla ForgeRock, en konkurrent til Okta innen identitetshåndtering. ForgeRock ble solgt i august til private equity-selskapet Thoma Bravo for 1,8 milliarder dollar.
IndyKite-programvaren utnytter den populære Neo4j-programvaren for grafdatabaseadministrasjon, som bygger en kunnskapsgraf over oppdagede relasjoner i en bedrift. “IndyKite sikrer nøyaktig og rik informasjon på tvers av bedriftens kunnskapsgraf ved å bruke Neo4J som databackend,” sier IndyKite.
IndyKite har mottatt totalt $10,5 millioner i såkornfinansiering fra Molten Ventures, Alliance Ventures og SpeedInvest , ifølge Crunchbase.