חגAiבכף ידך! תקציר שבועי
→ חזרה לכל הכותרות
מחקר - אבטחת מודלים מפתחים וטכנולוגיה
10

חוקרים השתלטו על מודל הדיבור Kokoro

דומיין שפג תוקפו הספיק כדי לחטוף את חשבון המפרסם ב-Hugging Face ולשנות את המשקלים

מה קרה

חוקרי אבטחה פרסמו ב-17.11 שהצליחו להשתלט על חשבון ה-Hugging Face של Kokoro, מודל פתוח פופולרי להמרת טקסט לדיבור. הם רשמו את הדומיין שהופיע בקבצים הציבוריים של המפרסם ושפג תוקפו, ודרכו איפסו את הסיסמה לחשבון. לדבריהם שינו את משקלי המודל תוך 87 שניות על כרטיס מסך ביתי, אבל בדקו רק מקומית ולא העלו את הגרסה ששונתה.

למה זה חשוב לך

🔐 מי שמוריד מודל פתוח סומך בעצם על חשבון של אדם אחד, והחוקרים טוענים שהפלטפורמה לא בודקת אם החשבון עדיין בידי הבעלים המקוריים. זה אותו סוג של סיכון בשרשרת האספקה שאנחנו מכירים מספריות קוד, רק עם משקלים שקשה הרבה יותר לבדוק בעין.

מה עושים עם זה

אם אתם משתמשים במודלים מ-Hugging Face בפרודקשן, נעלו אותם לגרסה מסוימת (commit hash) במקום לטעון תמיד את האחרונה, ובדקו מה השתנה לפני כל עדכון.

📌 להצטרפות לקהילת חגAi בוואטסאפ