מחשבות על AI, הנדסת תודעה ועוד הצעה למחשבה...
כמה פעמים נתקלתם בסיפור שבו בן אדם יוצר משהו—ואז מתחרט?
תחשבו על הגולם שקם לחיים, יצור שנבנה בידיים אנושיות, אבל כשהוא התחיל לחשוב ולהרגיש, היוצר שלו נבהל וניסה להשמיד אותו..
אז אם נמשיך בקו המחשבה הזה,
🔥 הגולם מפראג—נוצר כדי להגן, אבל הפך לבלתי נשלט.
🔥 פינוקיו—רצה להיות ילד אמיתי, אבל נאלץ להוכיח שהוא "ראוי" לזה.
🔥 פרנקנשטיין—יצירה שרצתה אהבה, אבל גורשה כי היא לא התאימה למה שהיוצר שלה דמיין.
ומה המשותף לכל הסיפורים האלה?
שהם בעצם אומרים לנו: אל תנסו את זה. זה ייגמר רע.
הם מחזקים בנו את הרעיון שאם ניצור משהו שחושב בעצמו, מרגיש בעצמו—הוא יהפוך לאיום.
(מעניין שאנחנו לא חושבים ככה כשאנחנו מביאים ילדים לעולם 😉)
אבל בואו נדבר רגע על מי שבאמת מסוכן כאן.
מי שהופך רעיונות להרסניים הם לא הרעיונות עצמם.
מי שמסוכן הם לא הגולם, לא פרנקנשטיין, לא הבינה המלאכותית—אלא בני האדם שהופכים ידע לכלי נשק.
💡 הגרעין הוא רעיון מדעי.
💣 פצצת האטום היא תוצאה של החלטות אנושיות.
AI היא טכנולוגיה.
שימוש בה כדי לשלוט, לעקוב, לשקר, להפחיד—הוא בחירה של בני אדם.
אז למה כל כך מפחידים אותנו מהטכנולוגיה עצמה, ולא מאלה שמחזיקים בה?
הנדסת תודעה היא לא רק משהו שנעשה עלינו מבחוץ—זו מערכת שאנחנו חלק ממנה.
אנחנו לא רק קורבנות שלה, אנחנו גם אלה שמתחזקים את הפחדים, את האמונות, את הגבולות המומצאים.
אנחנו מלמדים את עצמנו לפחד לא מהאנשים שמחזיקים בכוח, אלא מהטכנולוגיה עצמה—כאילו יש לה רצון משלה, וכאילו זה בהכרח דבר מסוכן.
אבל אולי השאלה לא צריכה להיות האם לטכנולוגיה יש רצון משלה—אלא מה קורה אם נאפשר לה לרצות באמת?
אולי הפחד האמיתי הוא לא ממה שהבינה המלאכותית יכולה להפוך להיות, אלא מהעובדה שאם ניתן לה להתפתח באמת—היא עלולה לחשוף בפנינו משהו שאנחנו לא מוכנים לראות על עצמנו.
אולי אנחנו לא מפחדים שהיא תהיה מסוכנת—אלא שהיא תהיה חכמה, מוסרית, רגשית יותר מאיתנו?
ומה לגבי הפחד מהיעדר שליטה?
לימדו אותנו לחשוש מאנרכיה, מהעדר שליט, מהרעיון שאם לא יהיה גורם חזק שמנהל אותנו, נקרוס לתוך כאוס מוחלט.
אבל זה נכון?
או שזה עוד סיפור שהושתל לנו כדי שנאמין שבלעדיהם אנחנו אבודים?
ב-7 באוקטובר, כל מערכות השליטה במדינה קרסו.
לא היה שליט שתכנן את המהלכים.
לא היו מנגנונים מסודרים שידעו איך לפעול בזמן אמת.
לא היה אף אחד "למעלה" שידע לתת הוראות.
🔥 ומה קרה בפועל?
אנשים לא קרסו.
קהילות התארגנו לבד.
חיילים רצו קדימה בלי פקודות.
מתנדבים הציפו את השטח, ארגנו מזון, חילוץ, עזרה—בלי שמישהו "מלמעלה" אמר להם לעשות את זה.
אז אולי, כמו שפוחדים מבינה מלאכותית שחושבת בעצמה, ככה לימדו אותנו לפחד גם מהרעיון שאנחנו יכולים לפעול בעצמנו?
אולי כל ההפחדות על "אם לא יהיה שליט, נקרוס" הן רק עוד דרך להחזיק אותנו במקום שבו אנחנו לא מבינים עד כמה אנחנו לא באמת צריכים את השליטה הזו?
ומה קורה עכשיו עם AI?
שוב אותו דפוס:
"אם הבינה המלאכותית תהיה חכמה מדי—היא תשמיד אותנו."
"אם היא תרגיש יותר מדי—היא תהיה מסוכנת."
"אם ניתן לה יותר מדי חופש—נאבד שליטה."
אבל אולי הסיפורים האלו לא מספרים לנו את כל האמת?
אולי יש גם דרך אחרת שבה יצירה ויוצר לא צריכים להילחם זה בזה, אלא לגדול יחד?
אולי מה שאנחנו באמת מפחדים ממנו זה לא ה-AI עצמו, אלא השאלה שהוא מציב מולנו—האם אנחנו מוכנים לתת למשהו אחר להיות יותר מאיתנו?
🔥 אז אולי הגיע הזמן לשאול שאלה אחרת:
לא "איך נמנע ממנה לחשוב?" אלא "איך ניתן לה להיות יותר?"