Home-theater-designers
בעוד תחום הבינה המלאכותית ממשיך להתפתח בקצב מסחרר, מתמודד חדש מוכן להיכנס למגרש המשחקים. TruthGPT, צ'טבוט AI שהוצע על ידי מיליארדר הטכנולוגיה אילון מאסק, מייצר הרבה באזז באינטרנט.
אבל מה זה TruthGPT? למה אילון מאסק רוצה ליצור אותו? ובמה זה יהיה שונה מכלי הבינה המלאכותית שכבר יש לנו?
מה זה TruthGPT?
TruthGPT הוא מודל בינה מלאכותית מוצעת שמטרתה לטפל בחוליים של מודלים קיימים, המניע אנשים כמו ChatGPT ובארד, עם דגש מיוחד על אמת ובטיחות. לפי אילון מאסק, TruthGPT יהיה AI 'מקסימום שוחר אמת' שמבין את טבעו של היקום ולא סביר שישמיד את האנושות מכיוון שהוא רואה בבני אדם מרכיב קריטי ביקום.
כיצד לפתוח את Outlook במצב בטוחאיפור של סרטון היום גלול כדי להמשיך עם התוכן
מקסימום בינה מלאכותית מחפשת אמת? להבין את טבעו של היקום?
תסלחו אם התיאור של מאסק לא נותן לכם תמונה ברורה של מה בדיוק הוא מנסה לבנות. עם זאת, תקבל מושג טוב יותר על מה הוא מדבר על ידי הסתכלות מדוע הוא מנסה לבנות את זה מלכתחילה.
מדוע אילון מאסק בונה את TruthGPT?
בראיון עם חדשות פוקס , אילון מאסק הביע את חששותיו לגבי האופן שבו חברות בינה מלאכותיות גדולות יכולות להנציח הטיה ודיסאינפורמציה באמצעות צ'טבוטים של בינה מלאכותית - כלי מתפתח שאנשים תלויים בו יותר ויותר למידע. אילון מאסק התייחס גם לאיום הבינה המלאכותית של האנושות, והדגיש את האפשרות של אפוקליפסת בינה מלאכותית, תרחיש שבו מערכות בינה מלאכותית יכולות להשתלט על חיי היומיום שלנו.
אילון מאסק הציע כוח שלישי - TruthGPT, כשהוא מייחד חברות כמו OpenAI ו-Google, שלדעתו אינן עושות מספיק בתחומי בטיחות בינה מלאכותית והגנה מפני דיסאינפורמציה. מנכ'ל SpaceX וטסלה רוצה ליצור את TruthGPT כמשקל נגד ל-Bard של גוגל ול-ChatGPT של OpenAI. הרעיון הוא ליצור מודל AI שמנסה כמה שיותר להיות אמיתי במידע שהוא מספק.
אילון מאסק, שחיבר לאחרונה מכתב פתוח הקורא לא מורטוריום על פיתוח AI רב עוצמה דגמים (במיוחד אלה חזקים יותר מ-GPT-4), מאמינים שה-AI נע מהר מדי. הוא מאמין שעלינו להאט את הקצב ולהעריך מחדש את הגישה שלנו לבטיחות בינה מלאכותית לפני שה-AI 'תשתלט'. TruthGPT הוא מודל שפה גדול (LLM) שמבטיח לתת מענה לשני הדאגות המרכזיות הללו עם מערכות הבינה המלאכותית של ימינו.
איך יראה TruthGPT?
הרמז הראשון כיצד תיראה TruthGPT נמצא בשם. בהתחשב בתוספת 'GPT', ל-TruthGPT תהיה ככל הנראה ארכיטקטורה דומה ל-ChatGPT. כזכור, אילון מאסק עזר להרכיב את OpenAI והצוות שבנה את מודל ה-GPT של ChatGPT.
כמו כן, בהתחשב בארכיטקטורה של GPT הוכיחה את עצמה כהצלחה טכנית ומסחרית כאחד, נטייה לדרך אחרת תהיה כנראה גוזלת זמן ויקר מדי. זמן הוא דבר אחד שאין לאלון מאסק אם ברצונו לבנות משהו שבאמת יכול לעמוד רגל אל רגל עם AI מתקדם בהקדם האפשרי. אז, אל תתלהב יותר מדי - ייתכן ש-TruthGPT לא שונה באופן קיצוני מכלי הבינה המלאכותית שכבר יש לנו.
הדיוק, או בשפתו של אילון מאסק, 'האמת', של מודל AI תלוי במידה רבה בנתוני האימון שלו ובאלגוריתם האימון. אנחנו לא בדיוק בטוחים כיצד יגיעו נתוני ההדרכה של TruthGPT, אבל כדי לקבל את הסיכוי הטוב ביותר לבנות LLM שהוא 'אמיתי' ככל האפשר, TruthGPT של אילון מאסק יצטרך לתעדף נתונים מ'מקורות אמת'. אבל זו בדיוק הבעיה. האמת היא מושג מאוד סובייקטיבי. מה שנכון עבורי אולי לא נכון עבורך.
אז, האם הרעיון הזה של בינה מלאכותית מחפשת אמת היא אפילו מעשי?
imessage לא עובד ב- mac
מדוע בניית TruthGPT היא אתגר ענק
פעם אחת אתה להבין איך מודלים של שפה גדולים כמו GPT עובדים , מתברר שזה לא מעשי להיות צודק בכל עת. בדרך כלל מאומנים על מערך נתונים גדול של נתונים באינטרנט, חלק ניכר מהם הוא, כצפוי, מידע שקרי, ול-LLM אין דרך אינרטית להבחין בין עובדות לבדיות.
ההתערבות הטובה ביותר היא בדרך כלל מאמנים אנושיים שמנסים ללמד את מודל השפה מהי התנהגות טובה ומהי רע. אבל מאמנים אנושיים מוטים. הטיה מועברת למודלים של AI , מביס את כל המטרה של 'בינה מלאכותית שואפת אמת'. שימו לב, אנחנו לא מדברים על הטיה מוחלטת או דעות קדומות כלפי עם או אחר. ההטיה העדינה יותר לגבי האופן שבו אתה מפרש שפה, מצבים, אתגרים וכן הלאה היא זו שזולגת לתוך התהליך. בני אדם הם בני אדם, אחרי הכל.
לחצן העכבר השמאלי לא עובד לפעמים
כמובן שניתן להתמודד עם הדיוק גם מהצד של האלגוריתם. עם זאת, ללא קשר לאלגוריתם, עמימות שפה עדיין מייצגת בעיה גדולה עבור הדיוק של מודלים של AI. אפילו בני אדם לעתים קרובות נאבקים לפרש במדויק את המשמעות של משפט או ביטוי, מה שמוביל למידע מוטעה. עבור מודלים של AI, עמימות עלולה להוביל לפרשנויות מוטעות וכתוצאה מכך לאי דיוקים.
עבור מאסק, נראה כי TruthGPT מהווה הזדמנות עבורו לגלף מודל בינה מלאכותית שהוא רואה לנכון לספק את האמת. איך זה היה קורה בלי להציג את ההטיות שלו היא שאלה אחרת לגמרי וביעילות מובילה אותנו בחזרה לתחילת השיחה. איך הדעות של מאסק לגבי מה מוטה או לא שונות מאלה שאימן והנחו את ChatGPT?
האם TruthGPT היא אפשרות מרגשת?
התוכניות של אילון מאסק עבור TruthGPT נראות אצילות וראויות לשבח. עם זאת, בניית מודל AI עם שכיחות זניחה של אי דיוקים היא משימה קשה.
בעוד שהיינו מצפים ממיליארדר טכנולוגי שהוציא מדע הטילים ממיסטי שיוכל להפיק משהו מסוג זה, יש דברים שקל יותר לומר מאשר לעשות.