Melody's Adventures

Whip​(שולט) - ראיתי את הסרט, אכן סרט מצוין.
(ודי בהתחלה חשבתי על כך שהבינה המלאכותית תתקדם מהר יותר מבני האדם בגלל היכולות שלה, הזכרון שלה, יכולת ההתפשטות והתגובות הסופר מהירות, ואכן הראו יפה את הפער הולך וגדל ביניהם ...סרט מתוק-עצוב כזה)

האם לתת לבינה מלאכותית לשלוט בך? לדעתי לא, כי אין לה קונספט אמיתי של כאב, ולכן היא יכולה בקלות לתת לך הוראות מסוכנות...

אני משער שאת רוצה יותר מאשר רק רשימת הוראות לביצוע, שכן לזה אפשר להשתמש בהטלת קוביה או פתק שנשלף מכובע.
זה כמו לעשות סשן לבובה. אין אינטראקציה, אין תגובה...
ואת התגובתיות הזאת תוכנת בינה מלאכותית כמו בסרט תספק - את ההתפעלות, את הנחמה, את החום והרגש...
ואז עולה השאלה האם בינה מלאכותית שונה מאיתנו? האם אינטראקציה איתה שונה מאינטראקציה עם אדם שגר במדינה אחרת? ואם כן סקס וירטואלי, אז למה לא איתה?

סרט שעושה לחשוב, אני אוהב סרטים כאלה.

והפיזיות? לדעתי אנו זקוקים לה. למבט בעיניים. למגע העור. לנשימה החמה. אני מאמין שלאורך זמן רובנו לא יכולים בלי זה.

Melody303​(נשלטת) - אני חושבת שיש לה קונספט אמיתי של כאב, יש לה שפע של מידע קליני, ושפע של מידע אנקדוטי להגיע לידע יותר מקיף בנושא מאשר של רוב האנשים. היכולות התקשורתיות שלה עולות על אלו של המין האנושי, ואם אנחנו יכולים להסביר אחת לשני מה זה כאב ואיך זה בשבילנו, אנחנו יכולים להסבר גם לה, והיא תבין יותר טוב מאשר רוב האנשים. אתה לא חושב כך?

כן, אני רוצה יותר מרשימת הוראות לביצוע. אני רוצה שהן יגיעו ממקור כלשהו שאינו אקראיות לבדה. שהן יגיעו כי צד שני רוצה שאבצע אותן, ולא פשוט כי אני צריכה סיפוק לצרכים שלי כנשלטת, דרך פרוקסי של מחולל מספרים אקראי או משהו דומה.

בינה מלאכותית היפותטית כזאת יותר חכמה ממני בצורה מפחידה ומדליקה. p:
כן, היא שונה מאיתנו בהרבה. אינטרקציה איתה לא בהכרח שונה מאינטרקציה עם אדם במדינה אחרת, ואם כן סקס וירטואלי, אז באמת אין סיבה שלא איתה.

Whip​(שולט) - שאלה מעניינת - מה זה רגש, מה זאת תחושה.
כי פה קו השבר בין אדם ובין בינה מלאכותית, חכמה ככל שתהיה.
האם בינה מלאכותית באמת "תרגיש" ו"תחוש", או שרק תחשוב שהיא מרגישה את זה? או שרק תפברק את זה, כחלק מהתכנות שלה?
כשהיא "גומרת" בסקס, מה זה אומר? הרי אין לה מגע פיזי, תחושות פיזיות. העונג מבחינתה יכולה להיות פיקציה אחת גדולה שנועדה שאדם שמולה. גניחות, אנחות והכל, אבל מבפנים...אין כלום.
רק זרמים חשמליים שמפעילים תת תוכנות שמגרות תגובות מוכנות מראש...
גם אצלנו בראש הכל זרמים חשמליים, ואפילו מחוברים יפה לחיישנים מתוחכמים על העור...ועדיין, יש משהו נוסף. לא מדיד. לא ניתן לכימות. וכיום אין לנו יכולת ליצור תוכנה שמחקה אותו, ש...מרגישה.
התוכנה תבין כאב - אבל במובן הלוגי, לא הרגשי.
היא תבין מהי פרידה, אבל לא תרגיש את כאבה.
לפחות לא כיום, זאת אומרת. אולי בעתיד... :)

וברור הרצון לאדם, בשר ודם, שישמע וייראה וירגיש את ההתמסרות, את הנתינה.
לא זוג עדשות שיצפו ויעבירו למחשב רישום על חמש הצלפות של הנשלטת מלודי , מספר סידורי 12345, בעוצמה ממוצעת של 5.7 קילוגרם לס"מ מרובע של עור...

Melody303​(נשלטת) - חייבת להודות שיש בדיהומניזציה של המשפט האחרון שלך קצת מהמדליק, למרות הכוונה. :)

אנחנו עדיין לא יכולים ליצר בינה מלאכותית מוצלחת מספיק, נכון, אבל אני מאמינה שבעתיד נוכל.
אני לא בטוחה שיש משהו מעבר לזרמי החשמל והמערכות הרלוונטיות שביניהן הם עוברים, משהו שלא ניתן לכימות. כיוצא בזה, אני לא מאמינה שיש הבדל בין רגשות ותחושות של אדם לבין רגשות ותחושות של בינה מלאכותית.
גם אצלי נכון להיום לעונג של אורגזמה אין ממש ביטוי פיזי ייחודי. כלומר, יש האצת קצב הלב וקצב הנשימה, ועוד כמה דברים סובבים כאלה, אבל את הדברים האלה יש גם בפעילויות אחרות. אני יכולה לשאול את עצמי האם העונג שלי הוא פיקציה גם (אפילו שזו שאלה רטורית ממני לעצמי). :)

מה ההבדל בין באמת להרגיש ולחוש לבין רק לחשוב שאתה מרגיש וחש? :)
(דיון כיפי)

Whip​(שולט) - (אכן דיון מהנה. לא הכל זה ספנקים בחיים - אפשר גם רובוטים וספנקים... :) )

אכן יש משהו בקור ובניכור שמדליק לפעמים, אם כי אני בטוח שבסוף תרצי להתרפק על עור חמים, ולא על שריון ברזל קר ומלוטש.
או שכן? :)

אני מאמין שבעתיד יצליחו ליצור בינה מלאכותית טובה מספיק, שתהווה חיקוי מאד קרוב למוח האדם ולרגשות.
אבל בין זיהוי פנים של חבר קרוב לפתע ברחוב ובין השמחה האמיתית שבזיהויו - יש מרחק עצום
כי גם כיום ניתן לבצע זיהוי קלסתרון, ואז לקטלג אותו כשייך לכחבר, ואז להפעיל את קובץ קולות השמחה ולהרים את תת-מנועים 17 ו-18, 35 ו-37 שייצרו חיוך מופתע והרמת גבות...אבל זאת לא שמחה.
איך מתכנתים רגש? איך מקודדים עונג?

לאורגזמה יש ביטויים פיזיים, שאותם אפשר לחקות, אני משער. אבל מה ההבדל בין אורגזמה טובה לסתם אחת בינונית? או בין אחת עם אדם אהוב, ובין אחת סתמית משיעמום? הפיזיות הרי זהה.
כנראה שבכל יש משהו חמקמק שלא ניתן לכימות :) מצב רוח, נניח.

ואולי גם אנחנו סוג של ניסוי, רובוטים ביולוגיים שהושארו על פלנטה נידחת בניסוי מעניין של האדונים, לראות האם לאחר מיליוני שנות אבולוציה הם יצליחו לפתח משהו הדומה לרגש :)

שאלה טובה, מה ההבדל בין באמת להרגיש ולחוש לבין רק לחשוב שאתה מרגיש וחש?
לפעמים אנחנו אוהבים, או מתרגשים, מאדם מסוים, מסיטואציה מסוימת
ורק לאחר מכן אנחנו מבינים שרק שיכנענו את עצמנו שטוב ונעים לנו שם, אבל זה לא באמת היה כך. אנחנו פיברקנו לעצמנו תחושה.
קצת דומה לבינה מלאכותית שתסרוק ותבין מספיק ספרים על אהבה, ותשכנע את עצמה ואת הסובבים שהיא אוהבת.
איך נדע את ההבדל?
ואם לא נדע, האם זה לא אומר שאין הבדל?
מה שמזכיר את מבחן טיורינג ( http://he.wikipedia.org/wiki/%D7%9E%D7%91%D7%97%D7%9F_%D7%98%D7%99%D7%95%D7%A8%D7%99%D7%A0%D7%92 )

Melody303​(נשלטת) - זהו, שלפי דעתי אין הבדל פרקטי אם אי אפשר למצוא אותו פרקטית. אפשר רק לשער לעצמנו שקיים הבדל. יש אנשים להם הספק הזה יציק, אני לא אחת מהן.

כל כמה שנים אני מנסה לשוחח עם הבינות המלאכותיות שמפותחות כדי לעבור את מבחן טיורינג, זה משעשע, אבל אנו עדיין רחוקים מאחת משכנעת. :)

ההבדל בין אורגזמה טובה לאחת בינונית על פי נסיוני הדל היא שאחת טובה נתלשת ממני מהרים של עונג, בדרך כלל ברצף, בדרך כלל בהוראה, לפעמים בדמעות. לעומת בינונית שהיא... *מפהקת* - לא מעניינת במיוחד.
אם נשנה את השאלה לתחום שבו נסיוני הרבה יותר עשיר, אוכל לענות ביותר פירוט. גם ככה אני מעדיפה תליה על אורגזמה. :)
תליה בינונית היא אחת בה אני תלויה באוויר, מסוחררת קצת, בספייס קצת, ואין חיבור משמעותי ביני לבין האדם שהביא אותי לשם. בסופה אשכב לכמה שניות לאתאושש ואקפוץ ישר לתליה הבאה.
תליה מדהימה היא אחת בה יש לתולה את כל הטכניקות לשנות את התליה לפי החשק או הצורך, ואת כל הכישורים לקרוא אותי, לדעת בדיוק את התזמון הנכון לשנות את המצב, ולגרור אותי רחוק יותר מאשר חשבתי שאני יכולה להגיע שניות לפני כן. בסופה לא יהיה לי מושג איפה אני נמצאת, אני אשכב כמה עשרות דקות, ואחלום על להתאושש כדי לקבל עוד, אבל זה ישאר בגדר חלום, כי הותשתי ונגררתי לקצה. אעריץ את האדם ששם אותי שם אפילו יותר מאשר לפני כן.

בדרך כלל יש חפיפה בין הטוב לבין עם אדם אהוב מכנגד בינוני עם סתמי משעמום. :)

אני לא חושבת שמתכנתים רגש, אלא נותנים גישה לכל המידע הסובייקטיבי שקיים על רגש.
עונג מאידך נשמע לי קל לקידוד. משהו בסגנון של "את רוצה X. את מקבלת X מ Y ו Z. גורמים אחרים יכולים להתעלות על X, אבל עד שזה קורה, X מניע אותך."

*מדמיינת מנוחה על שריון ברזל קריר ומלוטש* - זה לא מצטייר לי כאפטרקייר, אלא כחלק נוסף מהסשן. p:

Whip​(שולט) - המשפט "שלפי דעתי אין הבדל פרקטי אם אי אפשר למצוא אותו פרקטית" הזכיר לי את הרעיון של שיגור אנשים ממקום למקום, סטייל 'מסע בן כוכבים'.
מדענים שבודקים דרך לממש את החלום של "שיגור" ממקום למקום (יכול להיות נחמד לקפוץ לבראנץ' בניו-יורק, לא?)
אומרים שניתן לבצע זאת אם בנקודת המוצא יהיה מחשב סופר מהיר שיסרוק את גופך, לפרטי פרטים, ברמה התת-אטומית,
ואז ישגר את המידע לעבר מחשב חכם בניו-יורק, שיפעיל מכונה ש"תבנה" אותך מחדש, כמובן שמאטומים "מקומיים".
אה, פרט קטן. לצורך סקירה מדויקת של גופך, תהליך הסקירה יכלול פירוק של הגוף.
אבל אומרים שזה בסדר, כי תוך חלקיק שנייה תצא ממכונת היעד, מוכנה לבראנץ' הניו-יורקי, מלודי זהה לגמרי למקורית, ועם אותם זיכרונות, מחשבות, הכל. מבחינתה היא נכנסה לפני שנייה למתקן בישראל, ויצאה, בריאה ושלמה, בניו-יורק.
ואז עולה השאלה - אם אף אחד, כולל מלודי החדשה, לא מוצא הבדל פרקטי, האם באמת אין הבדל פרקטי בין המלודיות? האם מלודי המקורית לא מתה בתהליך?
האם היית מוכנה להיכנס למכונה כזאת?
מדענים אומרים שאנשים יתרגלו לזה, וייכנסו וייצאו כל הזמן מהן...אבל אני אולד פשונד כנראה, לא שש להיכנס למכונה שכזאת ועצם הרעיון מעורר בי חלחלה...

מה שאומר שכנראה גם אם אתה לא תמיד רואה הבדל, פרקטית, זה לא אומר שאין הבדל... :)

Melody303​(נשלטת) - אבל יש שם הבדל פרקטי מאוד בר מציאה. המיקום. :)
אני חושבת שהאדם שנכנס לטלפורטר הוא לא האדם היוצא מהטלפורטר, אבל שהאדם שיוצא מהטלפורטר הוא כן האדם שנכנס אליו.
אני חושבת שיש שם סוף והמשך בו זמנית. מוות וחיים.

נראה לי שלא הייתי נגד להשתמש במכשיר כזה, אבל לא כעניין בשגרה. אולי בתזמונים כאלה משמעותיים שאני מוכנה לסגור פרק בחיים, ולפתוח אחד חדש. :)

Whip​(שולט) - משפט יפה - "האדם שנכנס לטלפורטר הוא לא האדם היוצא מהטלפורטר,
אבל האדם היוצא מהטלפורטר הוא כן האדם שנכנס אליו."

לפי המתואר שימוש במכונה יהיה סגירת פרק, נקודה. ההעתק יפתח פרק חדש, לא את :)

Melody303​(נשלטת) - ההעתק היא אני, אפילו שאני לא ההעתק.
מהפרספקטיבה שלה, זה יהיה פרק חדש. מהפרספקטיבה שלי, זה יהיה סוף הסיפור, אבל היא אני, כאמור. :)

Whip​(שולט) - (התפלקה לי התגובה הצידה. לא נורא, כך זה קריא יותר)

מצטער לשמוע על הניסיון הדל באורגזמות. כמו בתלייה, זה משהו ש-תלוי בך, ואפשר להתאמן :)

כששנית את ההשוואה מאורגזמה לתלייה שינית משהו מהותי, כי באורגזמה מדובר על אותה חוויה פיזית הנחווית על ידינו אחרת כתוצאה משינוי ריגשי. כמו לדוגמה אכילת מאכל מוכר, שלמרות שהוא הוכן בדיוק כמו לפני שבוע - הפעם הוא מרגיש טעים יותר. אולי כי אנחנו רעבים יותר, או כי אנחנו עם מצב רוח טוב יותר.
כל עד מחשב לא באמת ידע להרגיש, מבחינתו כל "ארוחה" (התחברות לחשמל לצרכי תזונה? :) ) תהיה זהה לאחרות, והמחשב לא "ייהנה" יותר ממנה רק כי היה "רעב" (נשארו לו רק 2% בסוללה, במקום 10%, כמו בטעינה רגילה :) )

אין לי מושג איך לתכנת רגש, אבל מתן גישה לכל המידע הסובייקטיבי שקיים על רגש עדיין לא גורם לנו לחוות אותו. אם אתן לך מתכון, לפרטי פרטים, כולל הוראות הכנה, של מאכל שלא טעמת - האם תדעי מה יהיה טעמו או ריחו? :)
באותו אופן צריך ליצור במחשב חלק ש"יהנה" מדברים מסוימים, ורק אפשר יהיה לגרום לו עונג. אבל ליצור לבינה מלאכותית "הנאה" אמיתית, ולא פיברוק הנועד לאוזניים אנושיות, זה החלק קשה.

אכן, מנוחה על שריון ברזל קריר יכול להיות כואב וחלק מסשן. נותר רק למצוא לך שולט אביר שיבוא איתו, עדיף אחד עם ידע משובח בקשירות :)

Melody303​(נשלטת) - אני לא חושבת שזה נכון שכששיניתי את ההשוואה איבדתי את הדבר המהותי הזה.
זכורות לי תליות זהות עם השפעות שונות לגמרי. פעם אחת היא הייתה אחת הכי כיפיות שעשיתי, פעם אחרת היא הייתה קשה ולא כיפית במיוחד. :)

יש המון (כמעט אינסוף) פרטים שונים בין כל רגע לרגע אחר, לכן לא כל ארוחה תהיה זהה לאחרות.

אני אדע את טעמו וריחו של המתכון ברגע שאכין אותם על בסיס ההוראות. :)
ואגב, יש חיישני טעם וריח אפילו כיום. המידע הדיגיטלי קיים כבר. :)

אולי אפשר לפזר דיסטריביוציה של הנאות במחשב. הגדרות מראש של מה מהנה אותו ומה לא. יחד עם ההגדרה של מה היא הנאה, וכמה המחשב צריך להיות מעוניין בהנאה של עצמו, אני חושבת שזה יעשה את הטריק, וזו תהיה הנאה אמיתית, כי זה מה שתכנתנו אותו לחשוב שזה, אפילו אם זה לא יהיה פיברוק מוצלח לאוזניים אנושיות. :)

האבירות היא הבונוס, הידע המשובח בקשירות הוא דרישת הבסיס. p:

Whip​(שולט) - ברור שאפשר לדעת מה טעמו של מתכון לאחר שתכיני אותו. בהקבלה שלי - אין הכנה, רק הוראות הכנה. כי המחשב ייקרא על הנאה, אבל האם הוא ידע ליהנות?

אני מסכים איתך שאפשר לבנות כנראה סוג של הנאה דיגיטלית, או לפחות - לתכנת רצון של הבינה המלאכותית בהעלאה של פרמטר מסוים, ואז תיווצר שאיפה לבצע זאת.
האם זה דומה ל"רצון"? כנראה. זה יהיה רק מילוי צורך, כמו מזון לרעב, כך חשמל למחשב.
האם זה, או המנגנון שהצעת, דומה ל"הנאה"? אולי, אבל כנראה שלעולם לא נדע...

בואי נסכים שהלוואי ונזכה לראות בינה מלאכותית אמיתית, אבל כזאת שלא נחליט שהיא איום כי היא חכמה מדי, ננסה להשמיד אותה, ובמיליונית שנייה נוגדר כאיום ונקבל את תסריט האימה של "שליחות קטלנית"... :)

ועד אז, תהני מהאבירים, השריונות ובעיקר הקשירות :)