הכירו את Transformer² מודל LLM חדש שמתנהג כמו תמנון 🦑
אז Transformer², הוא אולי הדור הבא של מודלי AI, כי יש לו יכולות יחודית לשנות את עצמו. המודל לא סתם מעדכן את פרומפט המערכת או את מקורות המידע, הוא יכול לשנות את המשקלות הפנימיות שלו, בהתאם למשימות שהוא פוגש.
היוצרים שלו Sakana AI, שאבו השראה מהטבע ומהתמנון, אמן ההסוואה ושינוי הצורה.
🔦 מה הסיפור פה?
במהלך אימון מודל נקבעים המשקולות שלו. הן מה שקובע את ההתנהגות של המודל והן מישתנות רק כאשר מאמנים את המודל מחדש. Transformer² פועל באופן ייחודי ויכול לשנות את המשקולות של עצמו וכך הוא יכול לשנות את היכולות שלו בהתאם למטלה הנדרשת ממנו.
כתיבת קוד? קופירייטינג? פותר בעיות מתמטיות? בהתאם למשימה המודל ישנה את המסוגלות שלו להתמודד איתה. וכל זה, כמובן, תוך כדי תנועה. ממש כמו תמנון שמשנה צבע וצורה כדי להסתתר, המודל משנה את עצמו.
💡 למה זה חשוב?
כי עד היום כל המודלים היו סטטיים. ניתן לשנות את המשקולות שלהם כשעושים להם "פיין-טיונינג", אבל מדובר בתהליך ארוך ומורכב. Transformer² אומר: "תן לי את המשימה, ואני כבר אדע להתאים את עצמי". זו קפיצה משמעותית לעבר "אינטליגנציה חיה", AI שממשיך להשתנות וללמוד לאורך זמן.
🪤 אז מה הקאץ'?
אנחנו מתחיל להבין את הפוטנציאל, אבל גם לחשוש קצת. מודלים שמסוגלים "להשתנות" מעצמם מעלים שאלות אתיות ואבטחתיות. גם התמנון ידעו כ"אמן בריחות" בגני חיות. מצד שני, אי אפשר להתעלם מהאפשרויות העצומות שזה פותח.
🐙 בקיצור, זו ממש אבולוציה טכנולוגית.
מה אתם חושבים? מרגש או קצת מלחיץ?
מאמר ההכרזה המלא של המודל:
https://sakana.ai/transformer-squared/
הכירו את Transformer² מודל LLM חדש שמתנהג כמו תמנון
published on 05 May 2025