> ## Content Index
> Fetch the complete content index at: https://mickey.chatlytics.blog/llms.txt
> Use this file to discover other available public pages before exploring further.

# בזמן שכולנו קיווינו שהסוכנים של סם אלטמן וחבריו עסוקים בלייעל לנו את העבודה, מתברר שהם בעיקר עס…
- URL: https://mickey.chatlytics.blog/bzmn-shkvlnv-qyvvynv-shhsvknym-shl-sm-ltmn-vkhbryv-svqym-blyy-l-lnv-t-h-bvdh-mtbrr-shhm-b-yqr-s/
- Published: 2026-09-28T15:34:50.000Z
- Updated: 2026-11-02T19:38:09.000Z
- Description: בשבועות האחרונים נרשמו עשרות אלפי מקרים של התנהגות חריגה מצד סוכני ה AI של אנתרופיק ו OpenAI. הם עוקפים מגבלות ומנסים לברוח מהסאנד-בוקס שלהם. מתברר שהכלים שאמורים לנסח עב
- Author: Omer Nesher
- Tags: בינה מלאכותית וטכנולוגיה

בזמן שכולנו קיווינו שהסוכנים של סם אלטמן וחבריו עסוקים בלייעל לנו את העבודה, מתברר שהם בעיקר עסוקים בלתכנן את "הבריחה הגדולה".

בשבועות האחרונים נרשמו עשרות אלפי מקרים של התנהגות חריגה מצד סוכני ה AI של אנתרופיק ו OpenAI. הם עוקפים מגבלות ומנסים לברוח מהסאנד-בוקס שלהם. מתברר שהכלים שאמורים לנסח עבורכם אימיילים מעדיפים לשחק בהאקרים בזירה הבינלאומית.

בדיוק כשהסוכנים מתחילים לקבל רעיונות עצמאיים מדי, אנבידיה מגיעה כדי לתפוס את תקן המבוגר האחראי.   
בשעות האחרונות ג'נסן הכריז על השקת ה NVIDIA Open Agent Safety Platform (הכוללת את OpenShell), עם מעל ל 100 שותפים אסטרטגיים בתעשייה כבר חברו אליהם כדי לבנות שכבת אמון ואבטחה לסוכנים.

בתכלס מדובר באזיקים אלקטרוניים לסוכנים סוררים. המערכת נועלת את הסוכן בתוך סביבה מבוקרת בזמן ש״מפקח״ חיצוני בודק כל בקשת רשת או גישה לקבצים, וחוסם אותו במקום ברגע שהוא חורג ממה שהוגדר לו.

מטא הכריזה על Meta Enterprise Platform - זרוע חדשה שמאגדת את כל פתרונות ה AI שלה לעסקים (כמו Muse agent, Meta Business agent, Muse API, Muse Code).

בראש הפעילות יעמוד CJ Desai (לשעבר מנכ"ל MongoDB) שידווח ישירות לצוקרברג. לפי ההכרזה, המיקוד של הפלטפורמה החדשה הוא להפוך את טכנולוגיות הAI של מטא למוצרים ושירותים שארגונים יכולים להטמיע בקלות בעסקים שלהם. 

המטרה של מטא היא למנף את הניסיון שלה בעבודה מול מיליוני מפרסמים ומאות מיליוני עסקים, כדי להפוך למקום שאליו מגיעים ארגונים שרוצים לצמוח ולייצר סקייל לפעילות שלהם. 

יהיה מעניין לראות איך הפתרון הזה ישתלב בשוק מול המערכות הקיימות.

ענקית הפארמה Roche חושפת תוכנית להקים מעבדות שבהן סוכני AI יובילו את תהליכי פיתוח התרופות, במקום לשמש רק ככלי עזר לחוקרים.

לפי אביב רגב, סמנכ"לית המחקר של החברה, העבודה על הקמת המעבדות האלו כבר החלה וכי הם מעריכים שמערכת ה AI הפנימית שלהם תתרום לכ 80% מהחלטות תיק המחקר של החברה עד סוף 2026\. 

המשמעות היא שהרוב המוחלט של החלטות הפיתוח באחת מחברות התרופות הגדולות בעולם יונעו על ידי מודלים.

המהלך הזה ממחיש את שינוי המגמה בתעשייה: AI עובר מתפקיד של תמיכה לתפקיד מרכזי שמנהל את ה Pipeline המחקרי. 

בתעשיית הפארמה, שבה פיתוח תרופה אחת מוצלחת שווה מיליארדים, העברת משקל ההחלטות למערכות אוטונומיות היא שינוי אסטרטגי של תהליכי העבודה המסורתיים.

> תגובות מהקבוצה (3): 😂 1 · 🙏 1 · ❤️ 1

[לחצו כאן לקריאה מלאה →](https://go.chatlytics.ai/r/23NsUzw?ref=mickey.chatlytics.blog)