Google söker buggar med hjälp av artificiell intelligens
Google har introducerat ett nytt AI-system för buggdetectering kallat Big Sleep som använder LLMs (stora språkmodeller) för att analysera kod. Googles vicepresident för säkerhet, Heather Adkins, uppgav att systemet redan har hjälpt till att identifiera 20 nya sårbarheter, varav några klassificeras som kritiska. Systemet har tillämpats på öppen källkod-programvara, inklusive cURL, FFmpeg, ImageMagick, Envoy, libjpeg, gRPC, med mera. AI:n upptäckte fel som människor inte kunde identifiera, inklusive arraygränser, användning efter frigöring och mer.
Systemet utvecklades av DeepMind och Project Zero-hackarna, som är engagerade i sina egna säkerhetskontroller av Googles tjänster (Blue Team). Google lovar att öppna upp några av verktygen för gemenskapen för att stödja säkerheten i öppen källkodsprojekt.
Samtidigt uppmanar företaget andra företag att investera i liknande AI-lösningar för buggdetectering.
AI-system för buggdetectering är inte nya. Trots att de för närvarande är kapabla att "hallucinera", det vill säga upptäcka buggar som inte kan reproduceras i verkligheten, eller missa kritiska sårbarheter, kommer dessa system utan tvekan att bli populära inom en snar framtid.
Källa: techcrunch.com
