מדובב את"פרופסור ג'פרי הינטון שינה את התחזית שלו לגבי הפוטנציאל של בינה מלאכותית להפוך לקצה ההרסני של האנושות.
בשיחה בתוכנית Today של BBC Radio 4, הוא אומר שההערכה הקודמת שלו לגבי סיכוי של 10% לבינה מלאכותית לחסל את האנושות גדלה עד ל-20%.
התחזית המפחידה לגבי השתלטות בינה מלאכותית
לְפִיהגרדיאן, כשנשאל אם עמדתו השתנתה מאז הערות קודמות, השיב הינטון, "לא ממש, 10 עד 20 [אחוז]." מנחה התוכנית ציין את השינוי המדאיג, והדגיש את הסיכויים המוגברים.
הינטון, מאוחר יותר, עשה אנלוגיה. הוא תיאר לעצמו שיש רק כמה דוגמאות ל"דבר פחות אינטליגנטי" השולט בישות אינטליגנטית יותר. הוא הדגים אם ותינוק.
בהתייחס לעמדה של האנושות במשוואה זו, הינטון אמר למאזינים לדמיין את עצמם ואת ילד בן שלוש. הוא אמר שכולנו נהיה בני שלוש עד אז.
היסטוריה של סנגור מודאג
הינטון כבר מזמן מבקר ווקאלי שלפיתוח AI בלתי מבוקר. מוקדם יותר השנה הוא התפטר מתפקידו בגוגל כדי להביע בחופשיות את חששותיו.
הרעיון שהדבר הזה באמת יכול להיות חכם יותר מאנשים - כמה אנשים האמינו בזה", אמר הינטון לאחר שהודיע על התפטרותו.
הסנדק של AI אמר שרוב האנשים חשבו שהמעבר רחוק. הוא הוסיף שזה יכול לקרות בעוד 30 עד 50 שנה או אפילו יותר.
הינטון על תקלת הבטיחות של OpenAI
הינטון התייחס גם למאבקים הפנימיים ב-OpenAI, בעיקר ההדחה האחרונה של המנכ"ל סם אלטמן. הוא שיבח את תלמידו לשעבר, איליה סוצקבר, אחת הדמויות מאחורי ההפיכה בחדר הישיבות.
"אני גאה במיוחד בעובדה שאחד התלמידים שלי פיטר את סם אלטמן", אמר הינטון באוקטובר 2024, וסירב לומר יותר.
מאוחר יותר הוא הסביר את הסיבות של סוצקבר, והתעקש על הצורך בבטיחות בינה מלאכותית. על פי 2024OpenAI הוקמה עם התמקדות גדולה בבטיחות. עם זאת, עם הזמן נראה כי אלטמן דואג רק לרווחים ולא לבטיחות, וקבע כי מדובר בתרחיש "אומלל" מאוד.
קריאה לזהירות
רק על ידי התבוננות בגזרה ובניסיון של הינטון, אזהרותיו מהוות קריאת אזעקה למנהיגי טכנולוגיה ומחוקקים כאחד. בהתחשב בכך שה-AI משתנה במהירות, הסיכויים המתוקנים שלו מדגישים עד כמה דחוף ליישם בקרות מחמירות והנחיות אתיות כדי להגן על עתיד האנושות.
בשבוע שעבר, Tech Times דיווח על כךלאט לאט מתעוררים לחיים. בהשוואה לעמיתיהם בארה"ב, מודלים של קוד פתוח סיניים מתקדמים במהירות, מה שהופך אותם לחלופה טובה אם לא טובה יותר למתחרים שלהם.
עם הופעתם של מודלים גדולים של שפה או LLM, ענקיות טכנולוגיה מקומיות כמו Alibaba ו-DeepSeek מנצלות את מערכי הנתונים המשמשים לייצור צ'אטבוטים או כל יצירה הקשורה לבינה מלאכותית.
בטווח הארוך, סין רואה בכך את היתרון שלה על פני מדינות אחרות. בדרך זו, המדינה גם מתייחסת למעשה לאיסור השבבים השנוי במחלוקת בארה"ב, ומוכיחה שזה לא סוף העולם גם אם זה יקרה. למעשה, זו רק ההתחלה - של מלחמת שבבי הבינה המלאכותית המתמשכת.
ⓒ 2024 TECHTIMES.com כל הזכויות שמורות. אין לשכפל ללא רשות.
