10
חוקרים השתלטו על מודל הדיבור Kokoro
דומיין שפג תוקפו הספיק כדי לחטוף את חשבון המפרסם ב-Hugging Face ולשנות את המשקליםמה קרה
חוקרי אבטחה פרסמו ב-17.11 שהצליחו להשתלט על חשבון ה-Hugging Face של Kokoro, מודל פתוח פופולרי להמרת טקסט לדיבור. הם רשמו את הדומיין שהופיע בקבצים הציבוריים של המפרסם ושפג תוקפו, ודרכו איפסו את הסיסמה לחשבון. לדבריהם שינו את משקלי המודל תוך 87 שניות על כרטיס מסך ביתי, אבל בדקו רק מקומית ולא העלו את הגרסה ששונתה.
למה זה חשוב לך
🔐 מי שמוריד מודל פתוח סומך בעצם על חשבון של אדם אחד, והחוקרים טוענים שהפלטפורמה לא בודקת אם החשבון עדיין בידי הבעלים המקוריים. זה אותו סוג של סיכון בשרשרת האספקה שאנחנו מכירים מספריות קוד, רק עם משקלים שקשה הרבה יותר לבדוק בעין.
מה עושים עם זה
אם אתם משתמשים במודלים מ-Hugging Face בפרודקשן, נעלו אותם לגרסה מסוימת (commit hash) במקום לטעון תמיד את האחרונה, ובדקו מה השתנה לפני כל עדכון.