安全运维新范式 DevSecOps 结合 LLM、RAG 和Agent的创新实践 - 黄帅

安全运维新范式 DevSecOps结合LLM、RAG和Agent的创新实践 랕䋔幊尕䊨玐爢⼓䋒麤䋗 GOPS全球运维大会暨研运数智化技术峰会2024·上海站 ⚡➃皍➝ 랕䋔 幊尕䊨玐爢⼓䋒麤䋗 㖈鲱⟝灇〄곭㚖䭆剣⼧❀䎃⚪㺢絑낉⚁Ɤ✵卹匬霃雦ծⴔ䋒䒭禹絡珘㹁䚍䒊霃ծ㸝Ⰼ鵘絶ㄤ㔙ꢭ盗椚կ荈2018䎃饰➭荝⸂ ✵Ⰼ椕幊尕䊨玐㹊騨涸䋒麤ㄤ衅㖑僽շ幊尕䊨玐㢕勇禹絡꯸䚍㹊梡⛓麤ո♧⛼涸ざ霖罏կ鵛䎃勻Ⱒ岤㣐垷㘗곭㚖獤匧䱲程鴪垷㘗䪮助㖈㸝Ⰼ㹊騨⚥涸⴯倝䎾欽傋㖈輑ざ⵸屠䪮助♸⠛絡鲱⟝䊨玐剒⢕㹊騨⟄䲿⼮禹絡〳ꬑ䚍ծ㸝Ⰼ䚍ㄤ佪桧կ 㣐垷㘗傞➿㸝Ⰼ鵘絶倝䮋䧶 㣐垷㘗㖈㸝Ⰼ鵘絶涸倝錭蒀 湡䔶㸝Ⰼ兰腊鵘絶涸⴯倝ⴲ䱲劢勻㾝劅♸〄㾝䒊雳 01 㣐垷㘗傞➿㸝Ⰼ鵘絶倝䮋䧶 㣐垷㘗傞➿㸝Ⰼ鵘絶倝䮋䧶 81％ 98％ 650% 20202021 软件供应链事件增长率开源软件的使用率存在问题的开源软件比例 Sonatype,2021htSttpast:e//obfitt.hlye/3SoooftEw5aUrJeSupplyChain, aTnhdeCLyibneurxseFcouurnitdyaRtieoand,iSnoefstsw,a20re21B,ilhltotfpMs:a//tbeirti.alyls/3(SyBYeOGMp)PSynAonpasylyss,i2s0R2e2pOoprte,nhtStopus:r/c/ebiSte.lcyu/3rcittyqaHnMdpRisk 赏金猎人 ♧⚡溫㹊涸㸝Ⰼ✲⟝♧ 3waystomitigateriskfwehedensusingprivatepackage 信息来源：https://medium.com/@alex.birsan/dependency-confusion-4a5d60fec610 鲱⟝⣘䎾Ꝇ余ⴁ涸䌢錛㪭胇垷䒭 Git欽䨪 劢絑䱇勉䲀鷐 匬䒊 彂荈「䠭厩涸➿瀦 ♳⠛荛 ➿匬禹絡瀦䒊 ⵖㅷ➩䎽 「䠭厩涸鲱⟝⺫ 匬䒊⢪鲱欽⟝「⣜䠭饆厩䎽涸 鿈縭 欰❡ ⢪䎾欽欽「玐䠭䎸厩 彂瀦➩䎽 㢪鿈⣜饆➩䎽 ♧⚡溫㹊涸㸝Ⰼ✲⟝✳ 匬䒊 DevSecOps崨玐涸銻渷玐䏞 劥㖑䒓〄 ꫽䙖䎾欽㸝Ⰼ崵霚 㺙ꛬ唬崵 ➿瀦餘ꆀ ⽀⯋崵霚 匬䒊➿瀦 彂瀦 ꂁ縨 侨䰘䎽彂瀦 ⣜饆幡⽀ ꫽䙖餴❡ 㛇炄霃倶彂瀦 崵霚彂瀦 䎾欽玐䎸彂瀦 幯鵳䒭鿈縭 侨䰘䎽鿈縭 侨䰘䎽鿈縭 ゗⸓梠㞯 侨䰘䎽鿈縭 ゗⸓梠㞯 崵霚꣌媯♧ 崵霚꣌媯✳ 欰❡꣌媯 ♳絁崵霚 ⸓䙖䎾欽㸝Ⰼ崵霚 幊尕崵霚 UAT 港䱽ㄤ傈䘋雵䔶 鿈縭鲱⟝ 嵵岙崵霚 ꧋䧭崵霚 鿈縭鲱⟝ 匬䒊➿瀦⽀⯋崵霚➿瀦餘ꆀ㺙ꛬ唬崵꫽䙖䎾欽㸝Ⰼ崵霚鲱⟝絆䧭ⴔ區鲱⟝暟俱幡⽀鲱⟝⺫䊨⟝ 䧮⟌涸䮋䧶♧ 灵活性带来复杂性 安全攻击面增加 残酷的现实-资源规模爆炸 信息来源：https://projectn95.org 多于 LLM RAG Agent 䧮⟌涸䮋䧶✳ 到2026年企业将使用生 根据GARTNER,INC. 生成式AI的应用程序 成式AIAPI或部署支持 Gartner匊ⴀⶰ䚪鄪ⴔ區䋗Arun邍爙 炄欰垷䧭㘗䒭⛓㢪AI涸䊺倝䧭䊨⚹Ⱘ剒涸넞⴯盗倝椚կ㽻涸껷銳⟣⸉䎇䒸〄✫㛇 雽⼕㢴毫遤⥂⚌⨴ծ㼆欰䧭猰䒭㷖AIծ涸岁꨽䖒宠ծ㼜ꆄ♶輑倗剪㟞⸉⸈ㄤկⰖⰟ鿈꡶瘝 䧮⟌涸䮋䧶♲ 等待 商业 等待 优先级 等待 设计 等待 商业案例及要求 工程 等待 财务与项目管理办公室 质量保证与测试 等待 创意与功能 基础设施与运营 等待 软件开发 安全 集成与性能 部署和管理 政策与合规 䝠劍ㆭ劅⚡㖈꣌ㆭ媯❈蔄꣌䱈媯✫〳剒⟄㢴䲿涸넞傞佪ꢂ桧 价值 主意 等待 䧮⟌涸䮋䧶䚪絕 1 2 3 4 㢕勇䚍㟞⸈ 㸝Ⰼ굥ꤗ ♶〳곫崵䚍㟞⸈ 䚍餴ꦼ䏞彂⸈盗㣐⻊椚 䘯餘濨湽ꆀ⸈⥂ⶢ➿霆 ⠛絡䊨Ⱘㄤ倰岁 ꦼ⟄鷓䎾 AI禹絡暵䚍 02 㣐垷㘗㖈㸝Ⰼ鵘絶涸倝錭蒀 问：什么是生成式人工智能？ •⴯鸣倝涸ⰻ㺂ㄤ䟝岁⺫䭍㼆霢ծ佦✲ծ㕃⫸ծ錠곸ㄤ갉⛙ •歋⚹㖈㛇㣐炄ꆀ垷侨㘗䰘(F♳M)곫⯓雲絅涸㣐㘗垷㘗䲿⣘佅䭯鵯❈垷㘗鸑䌢獦 㛇炄垷㘗♸Ⱖ➭ML垷㘗剣⡦♶ず … … … … 叻雵侨䰘 … ML垷㘗 … … … ⟣⸉ 俒劥欰䧭䚪絕 ⥌䜂䲿》 ꡼瘷翜㣔劼㐼➃ 抠鲨鿈縭 劢叻侨雵䰘涸 靈곸 ⟣⸉ 俒劥欰䧭䚪絕 ⥌䜂䲿》 ꡼瘷翜㣔劼㐼➃ 곫雲絅鷓䎾 ぢ务㷖䎇宐鍒䎂ꅺ涸꡼㼆곿韌❜靍 絶㛇涰猰 㛇炄垷㘗涸鳕Ⰶㄤ鳕ⴀ僽➊⛎ⴲ㨤곫雲絅 緸絞昭赈 㛇炄垷㘗 <说明> 䲿爙霒꡼곿回应（答案） 䧮⟌㥵⡦㹁ⵖ㛇炄垷㘗 暵㹁⟣⸉涸叻雵侨䰘꧋ 暵㹁곭㚖涸劢叻雵侨䰘꧋ 暵㹁곭㚖涸劢叻雵侨䰘꧋ 䗎靈곫雲絅 䅺Ⰶ 䲿♳爙♴霒俒 䲿爙霒 鴽鸟涸 鴽鸟涸 㛇✵䭷⟁涸䗎靈곭㚖鷓ꂁ⥌䜂唬程RAG ⠏緃挿넞㽷佪ꣳ䚍⠏緃挿Ⰼ署꬗傞⠏緃挿抳⣜崞饆䚍 RAG涸䊨⡲⾲椚 LangChain僽➊⛎♶僽➊⛎ L⺫L鄳M僽㐼La䌐ng⸔Ch⢪a欽in涸暵㛇㹁炄㣐絆㘗䧭露鿈鎊ⴔ垷կ㘗㸐涸劥⸆餘腊♳ㄤ僽腊㣐⸂㘗կ露鎊垷㘗涸LLM(㣐露鎊垷㘗):僽LangChain涸㛇劥⽀⯋կ P俒rⰻom縨p)ts:㹁⛐䲿爙霒垷晜,ⰻ縨QA/QuestionGenerator垷晜(薉 禹絡⠔霢ㄤ欽✵侨㷖雦皾涸去瀦晙媯կ D㼜o♶cuずm涸en侨t䰘Lo彂a鲮de䰃rs⚹ㄤ俒Ut劥il:鵳皍遤⻊㢅✫椚侨䰘罜霄u꡼tiㄤls雦垷皾㗌կⴭ俒䲿咓⣘⸈❜鲿✽㐼䒭 V䊨eⰨct,o〳rs⟄to僽rePs(Gぢ,Oꆀp侨en䰘S䎽ea)r:ch䲿瘝⣘䌢䊨錛Ⱘ涸佅侨䭯䰘ぢ䎽ꆀ剪㶸⸉⪰.ㄤ叅霧涸㶸⪰L模a䧭ng鍒Ch區a.in䲿⣘✫倰岁⿡⢪欽垷㘗腊⸂⣘俒劥Embedding䎇Ⰶ䎽Chains:匬䒊靈欽Ꝇ勵,㼜ぐ⚡垷㗌⚮饰勻. A鵥g㔐en♧ts⚡:A湱g䎾en涸t僽♧⸓⚡⡲垷㘗ㄤ涸㼓⸓鄳⡲㐼䨾꨽㸐銳鸑涸鵂鳕䱹Ⰶ佐⥌欽䜂䨪涸鳕Ⰶ⥌䜂 RAG⿬罌卹匬 㣐垷㘗㖈㸝Ⰼ鵘絶涸倝錭蒀 1 •欽皍⽀助露鍒ꅺ㢕勇涸㸝Ⰼ怩峯㥵呔䒭㶶痗⚮怩峯ծㄐ⟁岤Ⰶ瘝 2 3 怩峯ⴔ區♸⥝㢕㸝Ⰼ䪊䲽㟞䔂 ⣘䎾Ꝇ㸝Ⰼ •ⴔ區➿瀦晙媯䲿⣘悶㖈怩峯爙⢾ㄤ⥝㢕䒊雳 •荈⸓欰䧭⺫ゎ䒊雳➿瀦」刿涸ざ䎇霼宠皍⻊⥝㢕崨玐 •佖鵳梡剣㸝Ⰼ䪊䲽䊨Ⱘ涸佪卓 •䲿⣘刿帿Ⰶ涸怩峯峯㻋ㄤ副♴俒 •⼸⸔낉霆⥝㢕僽や剣佪 •ⴔ區䒓彂絆⟝涸⣜饆Ⱒ禹 •霋ⵆ悶㖈涸㸝Ⰼ굥ꤗ •䲿⣘鲱⟝暟俱幡⽀(SBOM)湱Ⱒ䒊雳 •䘯鸟ⴔ區傈䘋ㄤ✲⟝侨䰘 㣐垷㘗㖈㸝Ⰼ鵘絶涸倝錭蒀 4✲⟝ㆇ䎾 5 㸝Ⰼ濼霋盗椚 6 7 㸝Ⰼꂁ縨盗椚㪭胇䞔䫣ⴔ區 •䲿⣘聊㔔ⴔ區ㄤ⥝㢕䒊雳 •⚹㔙ꢭ䲿⣘㹁ⵖ⻊涸㸝Ⰼ㛆雲ⰻ㺂 •皍⻊✲佦靈叅鵂玐 •䚪絕ㄤ絆絉㸝Ⰼ剒⢕㹊騨 •⴯䒊ㄤ絶䫡㸝Ⰼ濼霋䎽 •⚹㔙ꢭ䲿⣘㹁ⵖ⻊涸㸝Ⰼ㛆雲ⰻ㺂 •䚪絕ㄤ絆絉㸝Ⰼ剒⢕㹊騨 •⴯䒊ㄤ絶䫡㸝Ⰼ濼霋䎽 •䲿⣘㹁ⵖ⻊涸㪭胇霉⠮䫣デ •宨䚪ㄤⴔ區㢴彂㪭胇䞔䫣 •곫崵悶㖈涸㸝Ⰼ馋⸷ㄤ倝Ⱓ㪭胇 03 㸝Ⰼ兰腊鵘絶涸⴯倝ⴲ䱲 㸤㊤錞ⴢ 䲿⼮佪綘桧瀦佖鵳䚍㸝Ⰼ ⸈鸟♳絁荈⸓霚⻊崵 ⠏⻊俒咓 䔲♴涸DevSecOps僽や⧩䖤⦶⸔㣐垷㘗 >㟞䔂㸝Ⰼ䚍 >䲿넞䒓〄佪桧 ⚺銳䎾欽곭㚖 >佖鵳鵘蠒崨玐 •➿瀦㹎叅 •㸝Ⰼ怩峯唬崵 •➿瀦欰䧭ㄤ邉Ⰼ •俒咓綘ⱗ •傈䘋ⴔ區ㄤ꡼곿䱗叅 •崵霚欽⢾欰䧭 㹊 •倶➢瘻㼭殜錞垷霚挿고湡䒓㨤 •䭯絯霉⠮ㄤ⠏⻊ •鷶姿的㣐䎾欽薴㔵 㸤㊤錞ⴢ 䲿⼮佪綘桧瀦佖鵳䚍㸝Ⰼ ⸈鸟♳絁荈⸓霚⻊崵 ⠏⻊俒咓 䔲♴涸DevSecOps僽や⧩䖤⦶⸔㣐垷㘗 •侨AI垷䰘㘗㸝涸Ⰼⲥㄤ烁ꥧ䚍猙ㄤ⥂〳䫡ꬑ䚍 Ⱒꝶ罌贊㔔稇 •䎂邂AI⢪欽♸➃䊨港漛 • •♸梡剣䊨Ⱘㄤ崨玐涸꧋䧭䮋䧶 •䒊用幡兠涸AI⢪欽佟瘻 •䲿⣘プ䊨㛆雲ㄤ佅䭯 •烁⥂ざ錞䚍ㄤ麤䗞⢪欽 •盗椚AI欰䧭ⰻ㺂涸餘ꆀ剒⢕㹊騨 •㹁劍㹎呍AI禹絡䚍腊 㣐垷㘗끮⸓涸➿瀦䒊雳ㄤ欰䧭⸆腊 •䲿넞佪桧 皍⻊䊨⡲崨玐㼆✵佪桧ㄤ䧭⸆荛Ⱒꅾ銳㣐垷㘗腊㢿ꅾ絆䊨⡲倰䒭 •㟞䔂㼆➿瀦涸椚鍒 •Ⲹ㼱蔄㖈ꅾ㢕⟣⸉副涸傞ꢂ •皍⻊副䩛崨玐 •⸈䔂⼸⡲ㄤ濼霋Ⱏ❧ 㣐垷㘗끮⸓涸➿瀦䒊雳ㄤ欰䧭⸆腊 •䚪絕皾岁 •䲿⣘➿瀦鍒ꅺ •䲿ⴀ䚍腊佖鵳䒊雳 •荈⸓模䧭ㄤ霋ⵆ緃㣟⣜饆고 •㼜露Ɤ鎊➿瀦ꅾ匬⚹꬗ぢ㼆韌涸垷䒭䧴♶ず涸 㣐垷㘗끮⸓涸➿瀦䒊雳ㄤ欰䧭⸆腊 •䲿넞佪桧 皍⻊䊨⡲崨玐㼆✵佪桧ㄤ䧭⸆荛Ⱒꅾ銳㣐垷㘗腊㢿ꅾ絆䊨⡲倰䒭 •㟞䔂㼆➿瀦涸椚鍒 •Ⲹ㼱蔄㖈ꅾ㢕⟣⸉副涸傞ꢂ •皍⻊副䩛崨玐 •⸈䔂⼸⡲ㄤ濼霋Ⱏ❧ 㣐垷㘗끮⸓涸➿瀦䒊雳ㄤ欰䧭⸆腊 •䚪絕皾岁 •䲿⣘➿瀦鍒ꅺ •䲿ⴀ䚍腊佖鵳䒊雳 •荈⸓模䧭ㄤ霋ⵆ緃㣟⣜饆고 •㼜露Ɤ鎊➿瀦ꅾ匬⚹꬗ぢ㼆韌涸垷䒭䧴♶ず涸 㣐垷㘗끮⸓涸➿瀦䒊雳ㄤ欰䧭⸆腊 •䲿넞佪桧 皍⻊䊨⡲崨玐㼆✵佪桧ㄤ䧭⸆荛Ⱒꅾ銳㣐垷㘗腊㢿ꅾ絆䊨⡲倰䒭 •㟞䔂㼆➿瀦涸椚鍒 •Ⲹ㼱蔄㖈ꅾ㢕⟣⸉副涸傞ꢂ •皍⻊副䩛崨玐 •⸈䔂⼸⡲ㄤ濼霋Ⱏ❧ 㣐垷㘗끮⸓涸➿瀦䒊雳ㄤ欰䧭⸆腊 •䚪絕皾岁 •䲿⣘➿瀦鍒ꅺ •䲿ⴀ䚍腊佖鵳䒊雳 •荈⸓模䧭ㄤ霋ⵆ緃㣟⣜饆고 •㼜露Ɤ鎊➿瀦ꅾ匬⚹꬗ぢ㼆韌涸垷䒭䧴♶ず涸 㣐垷㘗끮⸓涸➿瀦䒊雳ㄤ欰䧭⸆腊 •䲿넞佪桧 皍⻊䊨⡲崨玐㼆✵佪桧ㄤ䧭⸆荛Ⱒꅾ銳㣐垷㘗腊㢿ꅾ絆䊨⡲倰䒭 •㟞䔂㼆➿瀦涸椚鍒 •Ⲹ㼱蔄㖈ꅾ㢕⟣⸉副涸傞ꢂ •皍⻊副䩛崨玐 •⸈䔂⼸⡲ㄤ濼霋Ⱏ❧ 㣐垷㘗끮⸓涸➿瀦䒊雳ㄤ欰䧭⸆腊 •䚪絕皾岁 •䲿⣘➿瀦鍒ꅺ •䲿ⴀ䚍腊佖鵳䒊雳 •荈⸓模䧭ㄤ霋ⵆ緃㣟⣜饆고 •㼜露Ɤ鎊➿瀦ꅾ匬⚹꬗ぢ㼆韌涸垷䒭䧴♶ず涸 㣐垷㘗끮⸓涸➿瀦䒊雳ㄤ欰䧭⸆腊 •䲿넞佪桧 皍⻊䊨⡲崨玐㼆✵佪桧ㄤ䧭⸆荛Ⱒꅾ銳㣐垷㘗腊㢿ꅾ絆䊨⡲倰䒭 •㟞䔂㼆➿瀦涸椚鍒 •Ⲹ㼱蔄㖈ꅾ㢕⟣⸉副涸傞ꢂ •皍⻊副䩛崨玐 •⸈䔂⼸⡲ㄤ濼霋Ⱏ❧ 㣐垷㘗끮⸓涸➿瀦䒊雳ㄤ欰䧭⸆腊 •䚪絕皾岁 •䲿⣘➿瀦鍒ꅺ •䲿ⴀ䚍腊佖鵳䒊雳 •荈⸓模䧭ㄤ霋ⵆ緃㣟⣜饆고 •㼜露Ɤ鎊➿瀦ꅾ匬⚹꬗ぢ㼆韌涸垷䒭䧴♶ず涸 K8sGPT-K8s꡼곿霏倗涸AI⸔䩛 >䒓ⵄ彂欽涸AIK䪮8助s꧋荈纈⸓霏ⴔ倗區䊨ㄤⰨ鍒ꅺK8s꡼곿 •荈⸓唬崵K8s餴彂涸䒗䌢朐䙖 •䲿⣘幡兠ծ〳乼⡲涸꡼곿鍒Ɀ䒊雳 ⚺銳暵䚍 䪮助❭挿: •佅䭯㢴猫鳕ⴀ呔䒭⤑✵꧋䧭梡剣䊨ⰨꝆ •〳㖈劥㖑鵘遤⥂䫡併䠭⥌䜂 •ꅷ欽㣐露鎊垷㘗䪮助㥵OpenAI涸GPT ⢪欽㖞兞: •佅䭯荈㹁⛐ⴔ區㐼的㾝霏倗腊⸂ •䘯鸟䱗叅欰❡梠㞯꡼곿 •DevSecOps㔙ꢭ傈䌢꧋纈絶䫡 •倝䩛㷖⛴K8s剒⢕㹊騨 䊨⡲⾲椚 •OpenAI •Cohere •AmazonBedrock •AmazonSageMaker •AzureOpenAI •GoogleGemini •GoogleVertexAI •HuggingFace •IBMwatsonx.ai •LocalAI •Ollama •FakeAI ⢪欽爙⢾ Kepler-K8s넞佪腊彂ㄤ䚍腊ⴔ區㐼 •㹊傞港崵㺂㐼ㄤPod紩ⵆ涸腊彂嶊署 >䒓✻彂⾲涸欰雦K8皾s㛇腊ꆄ彂⠔佪桧C港N䱽CF䊨Ⱘ㷱⻊고湡呍䗱⸆腊: 䪮助❭挿: •佅䭯㢴猫炽⟝䎂〵ㄤ✻梠㞯 •䲿⣘霫絈涸CPUծⰻ㶸ծ緸絞ㄤ㶸⪰⢪欽侨䰘 •ꅷ欽劼㐼㷖⛴垷㘗⠮皾腊彂嶊署 •ⵄ欽eBPF䪮助佐꧋䏀㽻禹絡侨䰘 •⠏⻊侨䰘务䗱腊彂佪桧 •霋ⵆ넞腊署䎾欽ㄤ㺂㐼 •佅䭯GPUㄤFPGA瘝⸈鸟㐼涸腊署港䱽䎾欽㖞兞: ꧋䧭♸的㾝: •⸔⸂⟱⚌㹊梡焫务ㄤ湡叻 •䲿⣘RESTfulAPI䱹〡倰⤑✳妃䒓〄 •♸PrometheusㄤGrafana瘝港䱽䊨Ⱘ꧋䧭 •佅䭯荈㹁⛐腊署垷㘗ㄤ䭷叻 Kepler-K8s넞佪腊彂ㄤ䚍腊ⴔ區㐼 •㹊傞港崵㺂㐼ㄤPod紩ⵆ涸腊彂嶊署 >䒓✻彂⾲涸欰雦K8皾s㛇腊ꆄ彂⠔佪桧C港N䱽CF䊨Ⱘ㷱⻊고湡呍䗱⸆