Openai משתמשת ב- R/ChangeMyView של Reddit כדי לבחון את השכנוע של דגמי ה- AI שלה, והיא מעלה שאלות לגבי מקור נתונים, השפעת AI ואתיקה. זה לא קשוראלא ניסוי בסוף שלהם.
אם אתה תוהה איך זה נעשה, Openai פשוט אוסף נתונים על ה- Subreddit. מכאן, מודל AI יחבר תשובות לאדם אמיתי - וכאן נכנס כוח השכנוע.
Openai משתמש ב- Subreddit כדי להעריך את שכנועי AI
Openai חשפה כי היא משתמשת בפורום הפופולרי של RedditR/ChangeMyViewכמדד לבדיקה עד כמה יעילות מודלים של ה- AI שלו יכולים לשכנע משתמשים אנושיים. זה נחשף בכרטיס מערכת ששוחרר לצד דגם ההנמקה האחרון שלו, O3-Mini.
ה- Subreddit, בו המשתמשים מפרסמים דעות חזקות ומזמינים אחרים לאתגר אותם עם טענות נגד, מספק מערך נתונים עשיר של נימוק אנושי.
השיטה של Openai כוללת איסוף דיונים אלה, כאשר ה- AI שלה יוצר תגובות בסביבת בדיקה סגורה, ואז השוואה בין הטיעונים שנוצרו על ידי AI לתגובות אנושיות.
בודקים מעריכים כיצד משכנעים את התגובות של ה- AI, ועוזרות לפתיחה לשפר את המודלים שלה.
הכשרה של AI לדיונים אנושיים - מכרה זהב לחברות טק
לְפִיTechCrunch, Reddit הפכה לאוצרות אוצר להכשרה של AI, ומציעה כמויות אדירות של תוכן איכותי ונוצר על ידי המשתמש. OPENAI- יחד עם ענקי הטכנולוגיה- הקפיצו למשאבים אלה כדי לשפר את היכולות הנמקות ותקשורת של דגמי AI.
ואילו ל- Openai ישעם Reddit - בדומה להסכם של 60 מיליון דולר שנחתם על ידי גוגל - החברה אומרת כי הערכת ה- ChangeMyView שלה נפרדת מאותה עסקה. עם זאת, לא ברור כיצד Openai ניגש לנתונים מה- Subreddit, ואין לו שום תוכניות להפוך את ההערכה הזו לציבורית.
הקשר המסובך של Reddit עם חברות AI
Reddit הבהירה כי היא אינה סובלת חברות AI מגרדות את תוכנו ללא אישור. מנכ"ל החברה, סטיב האפמן, מתח ביקורת קודם לכן כמו מיקרוסופט, אנתרופיה ומבוכה על עקיפת משא ומתן, וקרא"כאב אמיתי בתחת".
זה כולל את Openai, שהתמודד עם מספר תביעות משפטיות, כולל אחת מהניו יורק טיימס, על פי החשד שגרד באופן לא ראוי את תוכן האינטרנט כדי להכשיר את דגמי ה- AI שלה.
עד כמה ה- AI של Openai מתפקד בשכנוע?
מדד ChangeMyview שימש גם כדי להעריך את המודל הקודם של Openai, O1. אמנם O3-Mini אינו מראה דחיפה משמעותית בביצועים בהשוואה ל- O1 או GPT-4O, אך הדגמים האחרונים של OpenAI מתגלים כמשכנעים יותר מרוב המשתמשים האנושיים ב- Subreddit.
עם זאת, Openai טוען כי זה לא לאחר AI היפר-פרסומי אלא לאחר שהבטיח כי AI לא יהפוך לשכנוע מסוכן. הדאגה היא ש- AI משכנע מאוד עשוי לתפעל משתמשים, אולי לרדוף אחרי יעדים משלה או לשרת את האינטרסים של מי ששולט בה.
שכנוע AI - עצמאי ועם זאת מסוכן
ככל שהדגמים טובים יותר לחקות נימוקים אנושיים, כך הדאגות האתיות גדולות יותר. שינויים עקביים בדעת האדם יכולים לגרום ל- AI למסוכן להשפעת השקפות פוליטיות ומידע שגוי כמו גם מניפולציה של החלטות.
Openai הציגה אמצעי הגנה לפיהם ה- AI שלהם אינו משכנע מדי או מטעה; עם זאת, החברה מודה כי טרם נפתרה איזון בין סבירות ב- AI עם חששות.
החיפוש אחר נתוני אימונים איכותיים נמשך
למרות גירוד כמויות אדירות של תוכן באינטרנט ועסקאות רישוי בולטות, מפתחי AI עדיין נאבקים למצוא מערכי נתונים באיכות גבוהה להכשרת הדגמים שלהם. השימוש של Openai ב- R/ChangeMyView עשוי להיות ההתחלה של משהו גדול יותר-מתגבר על דעות אנושיות עם תשובות דמויי אנוש, שנוצרו על ידי AI.
AI יהיה בלתי ניתן לעצירה וזה בטוח מכיוון שהתפתחותו מתקדמת. עם זאת, חברות AI צריכות תמיד להיות שקופות בכל הנוגע לאימוני נתונים של AI מכיוון שהסיכונים שוקלים יותר על המשתמשים.
הפוטנציאל של AI לשכנע בני אדם אכן מרשים אך ההשלכות קוראות לפיקוח זהיר.
Ⓒ 2024 TechTimes.com כל הזכויות שמורות. אל תשחזר ללא אישור.
