היום גוגל הטמיעו כבר את הcode interperter בתוך בארד. ככה הוא מנסה לתרגם בעיה לפייתון ולהריץ כדי לקבל תשובה. הבעיה היא שהוא כותב קוד ממש לא משהו, ויש לו הרבה טעויות במהלך התרגום של הבעיה. לעומת זאת gpt-4 הרבה יותר טוב בזה.
לגבי הנקודה שהמודלים ׳הוזים׳ בגלל שהדטה מלא בשגיאות, זה נכון חלקית. כי גם דטה נקי שכולו אמיתות - יוביל למודלים הוזים (הוכח במקרה של מטא מודל galactica) מכיון שהמודל מקבל מושג לגבי הסגנון, ממוצע כללי, ולא לגבי מסלולים חד משמעיים בין ביטויים.
52:54 כל דבר שיש לו בינה חייב להיות מודע לעצמו ולסביבה ולמשמעות המילים אחרת הוא יהיה תלותי במה שאחרים אמרו כבר והגדירו לפי הבנתם הרי תינוק שומע מילים בהקשרים ועם הזמן הוא לומד מההקשרים מה הסיבה של כל מילה כלומר מתי משתמשים בה.. מה התריגר שיגרום לי להגיב כך או אחרת.. אבל ליצור תבוני יש יותר מיכולת תגובה יש לו דחפים והרגשות שבאים לכוון אותו. וזה יוצר מצב בו נהיה לנו מנוע שמסוגל ליזום אינרקציה פרסום או מהלכים טובים.
36:48 אם החכמת חיים מופסדת מהדעת אז לא תדע כיצד לחיות נכון. לא צריך לחפש iq באוניברסיטה מלמדים המון תוכן מיותר ולא מועיל כי בחיי היומיום אדם רגיל לא יצטרך להשתמש במידע המיותר שמעמיסים שם כמו הסתברות היסטוריה ומשוואות מסובכות עם נעלמים. בהחלט ניתן להיסתפק בשביל חיי היומיום בחשבון פשוט חיבור חיסור כפל וחילוק ומשוואות בנעלם אחד או שתי נעלמים. לדעתי בינה מלאכותית יכולה לגרום המון נזק רק מעצם היותה לא טבעית.. בטבע יש אורגניזמים ואילו היא לא אורגניזם שנוצר באופן טבעי (לא מושחת), ועדיין אני חושב שניתן למזער נזקים בכך שילמדו את הבינה כיצד מזהים חוקי טבע, כיצד מזהים עובדות, וכיצד מנתחים משפטים כלומר כיצד מזהים על מה עונה כל חלק במשפטים. לדוגמא חלק דיבור שתפקידו להרחיב מידע הוא ישתמש במילים כמו כלומר, חלק דיבור שבא להסביר ישתמש ב-הרי או כי וכדו' וכן על זה הדרך, בינה אמיתית בנויה מלזהות הקשרים בין מילים ואחר כך להבחין כל מילה כיצד היא באה לידי ביטוי בעולם שלנו הפיזי. צריך להיות לבינה חושים כלומר דרכים מזוהות לקבל מידע ויזואלי ולהבחין בו ולזהות מה נראה בו וכן לגבי מידע קולי לזהות מה נשמע בו. והכי חשוב לדעתי זה היכולת להשתמש במכנה משותף על מנת להבין דברים שלא נאמרו בפירוש. למשל מקודם כתבתי וכן בקול אז הבינה צריכה לדעת שכמו שבראיה מבחינים במראות כך בשמיעה גם כן מבחינים, מבחינים בדיבורים מילים וצלילים, ואז אם אמרתי שצריך להבחין מה נראה בחוש הויזואלי וכך גם בחוש הקולי, היא צריכה להבין לבד שיש להבחין במילים וצלילים בחוש הקולי כי זה מה שניתן להבחין בו בחוש הזה. לבינה צריך להיות יכולת להרכיב דמות תלת מימדתית בדמיון שלה מתוך הבנת המורכבות שמוצגת בדו מימד. ואז כל מושג צריך לקבל אצלה המחשה ויזואלית כך שלא יצטרכו המון תמונות על מנת להבין מה זה דבר מסויים אלא יספיקו 2-6 תמונות על מנת לזהות דבר. זאת אומרת שצריך להיות לה מרחב דמיוני תלת מימדי בו כל אובייקט מצטייר בקוים ונקודות שתופסים מקום וירטואלי בדימיון ומלאים בצבעים אוטנטיים. כמו כן צריך להיות מודעות שמה שהטבע מסתיר מאיתנו באופן טבעי זה לטובתנו על מנת שלא נשתגע, למשל שלא ניתן לראות חיידקים בעין רגילה. כי אחרת יכולנו לחשוב שחייבים להרוג חיידקים רעים על מנת לחיות בבריאות. ואני בטוח שיש הסבר יותר הגיוני מה מערכת החיסון שלנו עושה עם חיידקים שנתפסו כרעים. כי הטבע הטוב הוא לא אובדני ולא מחפש להאביד אחרים כי הכל חלק מהטבע, בהכל טבוע טבעים ואם לא יהיו אותם דברים אז לא יהיה טבע לא יהיה כלום בעצם. לא רוצה להאריך יותר אבל צריך ללמד עקרונות חיים להציע רעיונות בעלי ערך מוסרי טוב על מנת שהתבונה תזהה את הטוב ותאמץ אותו כדרך חיים שנכומה להתממש בידי אורגניזמים וכל יצור תבוני יפעל כפי יכולתו להיות הכי פחות גרוע שאפשר.
סיכום מקיף על הנושא תוך שעה. תודה.
הרצאה מצויינת ועדכנית
היום גוגל הטמיעו כבר את הcode interperter בתוך בארד. ככה הוא מנסה לתרגם בעיה לפייתון ולהריץ כדי לקבל תשובה. הבעיה היא שהוא כותב קוד ממש לא משהו, ויש לו הרבה טעויות במהלך התרגום של הבעיה. לעומת זאת gpt-4 הרבה יותר טוב בזה.
הדוגמא היפה של התפתחות הרובוטיקה זה רובוטים ששיחקו כדורגל בעולם האמיתי דרך למידה, אחרי שאומנו על סימולטור.
העברת זאת מעניין ופשוט להבנה
לגבי הנקודה שהמודלים ׳הוזים׳ בגלל שהדטה מלא בשגיאות, זה נכון חלקית. כי גם דטה נקי שכולו אמיתות - יוביל למודלים הוזים (הוכח במקרה של מטא מודל galactica) מכיון שהמודל מקבל מושג לגבי הסגנון, ממוצע כללי, ולא לגבי מסלולים חד משמעיים בין ביטויים.
52:54 כל דבר שיש לו בינה חייב להיות מודע לעצמו ולסביבה ולמשמעות המילים אחרת הוא יהיה תלותי במה שאחרים אמרו כבר והגדירו לפי הבנתם הרי תינוק שומע מילים בהקשרים ועם הזמן הוא לומד מההקשרים מה הסיבה של כל מילה כלומר מתי משתמשים בה.. מה התריגר שיגרום לי להגיב כך או אחרת..
אבל ליצור תבוני יש יותר מיכולת תגובה יש לו דחפים והרגשות שבאים לכוון אותו. וזה יוצר מצב בו נהיה לנו מנוע שמסוגל ליזום אינרקציה פרסום או מהלכים טובים.
36:48 אם החכמת חיים מופסדת מהדעת אז לא תדע כיצד לחיות נכון.
לא צריך לחפש iq באוניברסיטה מלמדים המון תוכן מיותר ולא מועיל כי בחיי היומיום אדם רגיל לא יצטרך להשתמש במידע המיותר שמעמיסים שם כמו הסתברות היסטוריה ומשוואות מסובכות עם נעלמים. בהחלט ניתן להיסתפק בשביל חיי היומיום בחשבון פשוט חיבור חיסור כפל וחילוק ומשוואות בנעלם אחד או שתי נעלמים.
לדעתי בינה מלאכותית יכולה לגרום המון נזק רק מעצם היותה לא טבעית.. בטבע יש אורגניזמים ואילו היא לא אורגניזם שנוצר באופן טבעי (לא מושחת), ועדיין אני חושב שניתן למזער נזקים בכך שילמדו את הבינה כיצד מזהים חוקי טבע, כיצד מזהים עובדות, וכיצד מנתחים משפטים כלומר כיצד מזהים על מה עונה כל חלק במשפטים.
לדוגמא חלק דיבור שתפקידו להרחיב מידע הוא ישתמש במילים כמו כלומר, חלק דיבור שבא להסביר ישתמש ב-הרי או כי וכדו' וכן על זה הדרך, בינה אמיתית בנויה מלזהות הקשרים בין מילים ואחר כך להבחין כל מילה כיצד היא באה לידי ביטוי בעולם שלנו הפיזי.
צריך להיות לבינה חושים כלומר דרכים מזוהות לקבל מידע ויזואלי ולהבחין בו ולזהות מה נראה בו וכן לגבי מידע קולי לזהות מה נשמע בו.
והכי חשוב לדעתי זה היכולת להשתמש במכנה משותף על מנת להבין דברים שלא נאמרו בפירוש.
למשל מקודם כתבתי וכן בקול אז הבינה צריכה לדעת שכמו שבראיה מבחינים במראות כך בשמיעה גם כן מבחינים, מבחינים בדיבורים מילים וצלילים, ואז אם אמרתי שצריך להבחין מה נראה בחוש הויזואלי וכך גם בחוש הקולי, היא צריכה להבין לבד שיש להבחין במילים וצלילים בחוש הקולי כי זה מה שניתן להבחין בו בחוש הזה.
לבינה צריך להיות יכולת להרכיב דמות תלת מימדתית בדמיון שלה מתוך הבנת המורכבות שמוצגת בדו מימד. ואז כל מושג צריך לקבל אצלה המחשה ויזואלית כך שלא יצטרכו המון תמונות על מנת להבין מה זה דבר מסויים אלא יספיקו 2-6 תמונות על מנת לזהות דבר. זאת אומרת שצריך להיות לה מרחב דמיוני תלת מימדי בו כל אובייקט מצטייר בקוים ונקודות שתופסים מקום וירטואלי בדימיון ומלאים בצבעים אוטנטיים.
כמו כן צריך להיות מודעות שמה שהטבע מסתיר מאיתנו באופן טבעי זה לטובתנו על מנת שלא נשתגע, למשל שלא ניתן לראות חיידקים בעין רגילה. כי אחרת יכולנו לחשוב שחייבים להרוג חיידקים רעים על מנת לחיות בבריאות. ואני בטוח שיש הסבר יותר הגיוני מה מערכת החיסון שלנו עושה עם חיידקים שנתפסו כרעים. כי הטבע הטוב הוא לא אובדני ולא מחפש להאביד אחרים כי הכל חלק מהטבע, בהכל טבוע טבעים ואם לא יהיו אותם דברים אז לא יהיה טבע לא יהיה כלום בעצם.
לא רוצה להאריך יותר אבל צריך ללמד עקרונות חיים להציע רעיונות בעלי ערך מוסרי טוב על מנת שהתבונה תזהה את הטוב ותאמץ אותו כדרך חיים שנכומה להתממש בידי אורגניזמים וכל יצור תבוני יפעל כפי יכולתו להיות הכי פחות גרוע שאפשר.