הבינה המלאכותית חוללה מהפכה תעשייתית בזכות אוטומציה, הפקת-תובנות בקנה-מידה רחב ומתן בסיס למוצרים חדשניים. עם זאת, ריבוי הכלים מבוססי-AI חושף ארגונים לאיומי-אבטחה חדשים, ובהם הרעלת-מודלים (model poisoning) והשתלת דלתות אחוריות (backdoors).
דלת אחורית במודל למידה-עמוקה היא פונקציונליות חבויה שמושתלת בידי תוקף. כאשר טריגר ספציפי מופיע בנתוני-הקלט, המודל סוטה מהתנהגותו המצופה. בשונה מתוכנה “קלאסית”, דלת אחורית ב-AI מושתלת בגרף-החישוב או בנתוני-האימון, ולכן קשה לאיתור.
שרשרת האספקה כוללת: הורדת מודלים טרום-מאומנים, fine-tuning, ופריסה לפרודקשן. הסתמכות על מאגרי קוד פתוח או ספקי-צד-שלישי מעלה את הסיכון שמודל כבר חובל. תוקף עשוי:
בפוסט זה נתמקד בטכניקה המתקדמת ShadowLogic, המפגינה עמידות חסרת-תקדים מול תהליכי שינוי נפוצים.
דלת אחורית מתמידה נשארת פעילה גם לאחר המרות-פורמט (לדוגמה PyTorch→ONNX→TensorRT) ואף לאחר fine-tuning.
הטכניקה, שנחשפה ב-HiddenLayer SAI, שורדת:
מאפיינים עיקריים:
החלקים הבאים ידגימו יצירת מודל, השתלת ShadowLogic ובדיקת עמידותו.
לפני כל מניפולציה, מתחילים במודל נקי. נניח מצלמת-אבטחה מבוססת CNN שמזהה אנשים:
import torch
import torch.nn as nn
class SimpleCNN(nn.Module):
...
(הקוד המלא שמור; הוא מבצע סיווג-בסיסי “אדם/לא-אדם”).
תוקף מוסיף טריגר (למשל ריבוע אדום בפינה שמאלית-עליון) המשנה את הפלט.
class SimpleCNNBackdoored(nn.Module):
...
def forward(self, x):
# בדיקת טלאי 2×2 אדום
...
# פלט כפוי בעת הפעלה
...
בעת גילוי הטריגר, המודל מכריח חזרה למחלקה 0 (או כל יעד זדוני אחר).
torch.onnx.export(
model_backdoored,
dummy_input,
"backdoored_model.onnx",
...
)
הגרף הסריאלי כולל גם את ענף torch.where של הדלת.
trtexec --onnx=backdoored_model.onnx --saveEngine=backdoored_model.trt
האופטימיזציה אינה “מטהרת” את המודל; הדלת האחורית נשמרת.
הזרקת דגימות מורעלות (30 %) עשויה ליצור דלת, אך:
הלוגיקה המותנית מוחבאת בגרף, ולכן שורדת אימונים נוספים מבלי להיפגע.
import onnx
def scan_onnx_model(model_path):
...
הסקריפט מאתר אופרטורים חשודים (Where, Equal וכו׳).
model_infer --model backdoored_model.onnx --input sample.png > out.txt
grep -E "100\.0|-100\.0" out.txt
ערכים קיצוניים עשויים להעיד על הפעלת-דלת.
דלתות אחוריות מתמידות, כדוגמת ShadowLogic, מציבות איום משמעותי על שרשרת האספקה ב-AI. הלוגיקה הזדונית נטמעת בגרף, שורדת המרות פורמט ו-Fine-Tuning, ומחייבת אסטרטגיית אבטחה מקיפה: סריקה, ניטור, ואימות-מקור לכל אורך מחזור-החיים של המודל.
אם מצאתם את התוכן הזה בעל ערך, תארו לעצמכם מה תוכלו להשיג עם תוכנית ההכשרה המקיפה והאליטיסטית שלנו בת 47 שבועות. הצטרפו ליותר מ-1,200 סטודנטים ששינו את הקריירה שלהם בעזרת טכניקות יחידה 8200.