OT - כל מה שלא קשור לכלום

מה אנחנו חושבים על מצבה הנוכחי של תעשיית התוכנה מול מבול של תוכנות קוד פתוח שמבוססות על מה שנראה כמו דה-קומפילציה לקוד המקורי וכתיבה של קוד אחר בrust שמבצע את אותו הדבר עם ממשק זהה?

זה קצת מבאס, שימוש שכזה הוא גניבה פרופר. והעצוב הוא שמתכנת עם יכולת ליכול לבנות את האפליקציות האלה בלי הקוד מקור של המתחרה, ביחוד אם אתה מנסה לבנות משהו חדש וחכם יותר במקום עותק של משהו קיים.

אגב, בנושא דומה אפיק בדיוק הכריזו שלא כותבים אצלם קוד אנושי יותר.

למרות כל ההתלהבות באינטרנט מהמתחרים החדשים לאדובי, הכלים האלו עדיין לא קרובים לרמה הנדרשת עבור אנשי מקצוע. אני מניח שזו רק שאלה של זמן עד שנהיה שם. אולי כמה חודשים ספורים ואולי כמה שנים.

אני חושב שחלק גדול מנקודת המכירה למוצרי תוכנה עובר ויעבור להיות התחזוקה והתמיכה. אולי נראה יותר מודלי תמחור דומים למוצרי open source שבהם התוכנה עצמה חופשי לשימוש, אבל שימוש ביכולות ai, אחסון, סנכרון וכן הלאה יהיה בתשלום.

גם יכול להיות שאני מפספס משהו וה-AI ישבש גם את האזור הזה.

לפחות בצד הענן, המשחק שלי גדול מדי להיות ב-github בגלל הנכסים אז הרמתי בכמה דקות מערכת גיבוי ל-icloud שמסתנכנת אוטומטית כדי לרכוב על המנוי 2TB שלי באפל. אולי זה לא באמת git, אבל כמשתמש בודד לי זה מספיק. זאת שכונה שהרמתי לעצמי, אבל אני לא רואה סיבה ש-AI לא יוכל להרים לך משהו אישי בקלות על בסיס אכסון ענן שכבר יש לך מנוי אליו, וגם מערכת GIT מסובכת, בטח שעוד שנה מהיום. קשה לתפוס את זה שהמהפכה בקידוד קרתה רק בדצמבר האחרון, עברו רק 10 חודשים. איפה נהיה עוד שנה, מי יודע.

אני באמת לא יודע מה לחשוב על זה. זו גניבה אבל זו לא גניבה והם גם כנראה לא עוברים על החוק.

הם לא ברמה של המשתמש המקצועי, חסרים עדיין פיצ׳רים ופיצ׳רים אחרים עדיין לא בשלים אבל הם לא באמת רחוקים מאוד משם, בטח בהנתן שהם בסה״כ בני שבוע/שבועיים.

יש לי תמונות מהטיול בארה״ב שמצריכות קצת טיפול. לא הולך לשלם לאדובי על lightroom (אף פעם לא הייתי מסוגל להצדיק את זה לעצמי). בד״כ השתמשתי בgimp אבל זה לא ממש זה. עכשיו הורדתי את הקופיקט הרלוונטי (תוכנה בת 11 ימים) והוא מעל ומעבר למה שאני צריך.

שנה/שנתיים קדימה? למה שמישהו בכלל ירצה להשתמש בתוכנות עם ממשק כזה? אני באמת לא יודע מה לחשוב על זה...

אם אתם לא רואים ב ai גניבה בכללי, אז גם כאן זה לא גניבה. No two ways about it.

זה ממש לא אותו דבר. יש הבדל מאוד גדול בין AI שלמד לקודד ממליארדי דוגמאות ומסמכים שהוא קרא ואז מתכנת לבד תוכנה X לעומת לקחת את קוד המקור של תוכנה X ופשוט לארוז אותו מחדש.

כלומר, כל צייר מקצועי למד לצייר על ידי למידה של אומנות קיימת, אבל הוא לא יכול לבוא ולצייר את מיקי מאוס ולשווק את זה ולהיות מופתע כשתובעים אותו. אתה יכול ללמוד מאיך שציירו את מיקי מאוס, אתה לא יכול לגנוב את מיקי מאוס.

זה לא חייב להיות אריזה מחדש. אתה יכול להורות לו רק ללמוד את הקוד ולכתוב מאפס גרסה טובה יותר. ואז זה לא שונה מכל יצירה אנושית שהושפעה מיצירה אחרת.

ובכל מקרה, הפרה של קניין רוחני היא לא באמת גניבה.

לא יודע אחי... הוא למד לקודד והוא לא באמת אורז מחדש. לוקחים את הקוד, משפרים, משנים, מערבבים. משער שזה לא 1:1 כל התוכנות סטייל אדובי האלה שעומר דיבר עליהן. יש דברים דומים, יש דברים פחות דומים. בסוף זאת יצירה חדשה. אם אין בעיה עם התוכן שנלקח מכל דיסיפלינה אחרת, לא צריכה להיות בעיה גם עם קוד. זאת דעתי.

כבר אמרתי בעבר שאני חושב שכל הכלים הללו בנויים על בסיס מוסרי רקוב, אבל זאת דעתי האישית. לא מתכוון לריב על זה. אבל אי אפשר לראייתי, מצד אחד להגיד "זה בסדר גמור שלקחו את כל היצירות שבעולם ועושים איתן מה שבא להן, כולל הפרת זכויות יוצרים מוחלטות", אבל כשזה מגיע לתוכנות פתאום להגיד "זאת גניבה". אם זאת לא גניבה בציור, ספרות, כתיבה מדעית, מוזיקה וכל שדה אחר, אין סיבה שזאת תהיה גניבה כי ה AI התאמן על הקוד של פוטושופ ואז עשה גרסא טובה יותר/פחות שלו.

אבל זה לא אותו דבר. אם AI בא ויוצר ציור קיים של רמברנט זו גניבה, גם אם הוא עושה את זה בטעות. אבל להשתמש בטכניקות של רמברנט לעשות ציור חדש לגמרי? מה הבעיה בזה, זה ליטרלי כל מה שצייר מודרני עושה.

גם במקרה של נניח פוטושופ. זאת תוכנה עם מליון כלים, רובם מבוססים על מאמרים פתוחים לכולם. אם מישהו בה, עושה דיקומפילציה לפוטושופ ואז אורז את זה מחדש עם שינויים זאת גניבה. איך זה שונה מריגול תעשייתי? אבל אם מישהו לוקח מאמרים פתוחים לקהל הרחב שעליהם מבוסס כלי החותמת של פוטושופ ויוצר בתוכנה שלו כלי חותמת? עם זה אין שום בעיה.

מן הסתם יש כל מני אזורים אפורים באמצע. אבל AI מאומן על תוכן אנושי בדיוק כמו שבני אדם מאומנים על תוכן אנושי. זאת צביעות להגיד שצייר שלמד כל חייו טכניקות רנסאנס והיום עושה בצורה מקצועית ציורים בטניקות רנסאנס לא עושה בדיוק מה ש-AI עושה.

בוודאי שזה אותו הדבר. מה הבעיה? הוא הסתכל על הקוד של פוטושופ, ואז שינה אותו לצרכיו(הטכניקה של אדובי, במקום רמברנדט).

אם זה היה 1:1, אז זה היה עובד פיקס ובדיוק כמו פוטושופ. עובדה שזה לא. ציור של רמברנדט, זה 1:1. שיר של הביטלס זה 1:1. וכו'. בסדר, אני מבין ומקבל שמבחינתכם אין שום ערך לשום יצירה של אף אחד. זה בסדר. אז צריך לקבל שאין שום ערך לשום תוכנה של אף אחד גם כן.

אם תעתיק אפילו 4 שניות רצופות משיר של ביטלס הם יכולים לתבוע אותך בבית משפט. אם אתה אואזיס שעושים שירים שמבוססים על הערצה אינסופית לביטלס לא יוכלו לתבוע אותך. יש הבדל בין ללמוד ממישהו סגנון לבין להעתיק, זה לא אותו דבר.

כמעט כל יצירה אנושית מבוססת על יצירות שבאו לפניה. לא קיים משחק וידאו שלא מבוסס על משהו לפניו, אם זה ספר, אם זה סרט, אם זה משחק אחר. בגישה שלך אחרי מריו NES היה אסור לאף אחד לעשות משחקי פלטפורמה. זה לא עובד ככה.

גם לעשות כלי שמבוסס על הקוד של פוטושופ זה לא להעתיק.... אנו באמת לא מבין מה הפער פה... כי זה "קוד סגור"? כבר הוכח שלימדו את גל המודלים על תכנים שהיו מאחורי חומות תשלום והגנות אחרות. מה ההבדל בין ללמוד איך קידדו את ה cloning tool של פוטושופ לעומת "הטכניקה של רמברנדט"? הai למד איך אדובי עשו את זה, ויצר גרסא משלו.. בשפה אחרת לגמרי.. מה הבעיה? זה לא אותו קוד... זה אולי "עושה אותו הדבר", אבל זה לא אותו הקוד בסוף. יצירה חדשה. אי אפשר מצד אחד להיות בעד להזין את כל היצירה האנושית לתוך מכונה כל יכולה(ההשוואה לבני האדם לא רלוונטית בעיני, כבר חפרתי על זה מספיק), ומצד שני לצעוק "גוועלד! הגולם גונב לי את הקוד".

עונה לעריכה:

אני אמרתי שאסור היה לעשות פלטפורמה? לא. אני זה שאומר שיש הבדל משמעותי בין בני אדם למכונה. בלמידה, במחשבה, ברעיון וביכולת. אתם אומרים שלא. אז מבחינתכם מותר להעתיק הכל וזה סבבה. משום מה כשמישהו מעתיק/משתמש ב assets גנובים, זה לא בסדר. אבל אם ai עושה את זה בקנה מידה עצום, זה סבבה.

1) לאמן AI על תוכן שלא פתוח ציבורית זה לא בסדר, וזאת גם עבירה על החוק. זאת הסיבה שאנטרופיק שלמו מליארד דולר במצטבר לסופרים סגורים בתשלום שקלוד אומן עליהם בהוראת בית משפט. אבל אם התוכן שלך פתוח לכל אדם בעולם, הוא fair game. יש ניואנס בנושא.

2) זה לא בסדר להשתמש ב-assets גנובים, גם אם AI עושה את זה.

3) לעשות דיקומפייל לקוד של פוטושופ ולהשתמש בו זה אמור להיות עבירה בדיוק כמו לאמן AI על ספר שמאחורי חומת תשלום.

הלוגיקה מאוד פשוטה, אפשר לקבל השראה, לא להעתיק. יש לנו מאות שנים של חוקי IP שמתעסקים בדיוק בזה. אם מישהו עושה דיקומפייל לפוטושופ ויוצר העתק מושלם על בסיס פוטושופ זה לגמרי גניבה. זה לא שונה ממתחרה שעושה ריגול תעשייתי.

יש פה פער בקונספציה כי נראה שאתה חושב שכל מה ש-AI עושה הוא גניבה של משהו שאדם יצר. אבל AI יודע לעשות דברים מקוריים, הוא לומד כמו בני אדם. אני עשיתי עם AI משהו מקורי. BOX3D יצא ביולי, יש לו גרסה אחת בלבד והיא רצה על ה-CPU. יחד עם קלוד הצלחתי להריץ את BOX3D על ה-GPU, זה משהו שרק אדם אחד אי פעם עשה והעבודה שלו פרטית, הוא עדין לא פרסם אותה ציבורית. כלומר מה שעשיתי עם קלוד ו-BOX3D זאת היית עבודה מקורית שאין כמוהה בעולם. עשינו אותה כי BOX3D הוא קוד פתוח ואת ההנדסה עשינו יחד. רק לגרום לו לעבוד על ה-GPU קלוד עשה לבד, פעולה שמעולם לא נעשתה בהסטוריה האנושית, ויחד יעילנו את זה לעבוד פי 30 יותר מהר מ-BOX3D המקורי. אז ממי בדיוק גנבנו פה? מאף אחד. קלוד אומן על מליארדי שורות של קוד, אבל הוא מסוגל לכתוב קוד מקורי חדש שמעולם לא נראה.

אז תתעורר ותריח את הוורדים אחי. זה העתיד שתמכת בו. אנת'רופיק שילמו מיליארד דולר רק כי הם הורידו ספרים בלי לשלם, וגם זה רק על מה שתפסו אותם. כל השאר נתפסו מג'נרטים תכנים מכתבות, מאמרים ועוד רבים וטובים שהיו מאחורי חומות תשלום. כל ה AI המודרני בנוי על זה. אם פתאום, כשזה נוגע לתוכנה, שזה הביזנס שלך, ואתה מבין שהענף שעליו אתה יושב עלול להתחיל להתנדנד(לא אתה, אני בטוח שאתה תותח ותסתדר - לא נכתב בציניות) - אתה מדבר על מוסר וחוק, איפה היית קודם אחי?

כבר כתבתי לא פעם. אני משתמש לא קטן בכלי Ai. כל יום. אני משוכנע שהרבה מהתוכנות שאני כותב בעבודה(ואני לא יודע לכתוב קוד בכלל), ברובן המכריע גנובות מקוד של אחרים. פתוח, סגור, לימדו, אימנו, גנבו, פתחו, קימפלו? אין לי מושג. פשוט אין ברירה בימינו, לבינתיים לפחות. בדיוק כמו שכאומרים לבינה כלשהי ליצור תמונה בסגנון סטודיו ג'יבלי, כנראה שהרבה אלמנטים בתמונה הזאת יהיו "גנובים" או דומים ב98%. אותו עץ, אותו שיער, אותו ספסל וכו'. נגיד שהדמויות הראשיות שונות(לא יפניות, אלא בכלל שחורות מאפריקה). או שאתה בעד, או שאתה נגד. או שזה מוסרי או שזה לא.

יש לך טעות קונספטואלית שאתה חושב שכל מה שAI יוצר הוא סתם copy paste ממקורות שהוא אומן עליהם. זה לא. כלומר זה כן יכול להיות, אבל זה לא המהות. AI הוא כלי ובהנחיה אנושית מתאימה אפשר ליצור כל דבר, גם דברים מקוריים לגמרי שמעולם לא נוצרו בעבר.

ומה הבעיה בלרצות שAI יאומן רק על מידע ציבורי ומידע לא ציבורי שקבל אישור? זה לא סותר.

בוודאי שאפשר ליצור איתו דברים שלא נוצרו בעבר. לגבי "מידע ציבורי ומידע שאושר מראש" - איך אומרים? "שטויות יפות". אין לי כמובן נתונים, אבל הייתי מנחש שהרוב המכריע הם תכנים שהושגו ללא אישור בעלי הזכויות. כמו שכבר אמרתי לא פעם - יש סיבה למה כל החברות האלה משלמות על מידע חדש. למה גוגל, אנת'רופיק ו openai, כולן משלמות לרדיט כל שנה? תכלס המידע שם ציבורי ונגיש ואת כל מה שהיה עד לנקודה שהם התחילו לשלם, הן לקחו בלי אגורה.. מה שנכון לרדיט רלוונטי לכל אתר גדול עם מידע איכותי. טקסטואלי, גרפי, מוסיקלי ועוד. אפשר להיתמם, אבל עדיף להסתכל למציאות בעיניים.

אם הן שילמו על המידע, אז אין פה בעיה. אין פה היתממות, הם צריכים לעבוד במסגרת החוק. אם הם רוצים לאמן על נניח רומנים, הם צריכים לפנות להוצאות ספרים גדולות, לסגור איתן עסקה ואז לעשות את זה. וכמובן על כל הרומנים שהם public domain. אם קלוד או אסטרה אומנו גם בצורה לא חוקית מה בדיוק אתה רוצה שאני אעשה לגבי זה? גם הבגדים שלנו והאייפונים שלנו עברו דרך שרשרת אנושית במזרח הרחוק שהיא לא בדיוק שיא המוסר ואנחנו עדין לובשים אותם ומשתמשים באייפון. אבל אם אתה שואל אותי איך צריך לאמן AI, אז מן הסתם במסגרת החוק כולל חוקי ה-IP.

וכן, יד מכוונת מוכשרת יכולה לעשות פלאים עם AI, דברים שמעולם לא נראו. וסתם אדיוט שיושב וכותב "תעשה לי משחק כמו DQ8" לא בדיוק יקבל יצירת אומנות. זה כל הקטע, זה כלי, צוות של 40 אנשי מקצוע שעושים משחק במשך שנתיים כשכל אחד מהם מפקד על מספר סוכני AI זה לא אותו אדיוט שכתב פרומפט אחד כדי לקבל משהו סטייל DQ8.

הן שילמו על מידע חדש. הן לא שילמו להוצאות הספרים אגורה שחוקה לפני המשפטים. וכך לכל השאר. אני לא רוצה שתעשה כלום. רק שלא תיתמם. אמרתי. גם אני משתמש. פשוט בעיניים פקוחות לרווחה ובהבנה שאין לי ברירה כי אם לא אשתמש, ימצאו מישהו שכן.

אם זה באמת מעניין אותך - יש מודלים שאומנו רק על מידע ב public domain.. נגיד... https://www.harvardmagazine.com/technology/harvard-ai-model-talkie-libraries-data

לא חושב שהוא יעזור לך לתכנת כ"כ...

לא הבנתי, למה שיהיה אסור לאמן על קוד סגור? כמו שה-AI עושה reverse engineering לקוד, גם בן אדם יכול לעשות בדיוק אותו דבר וללמוד בצורה הזאת על התוכנה. זאת גם לא שאלה תאורטית, תמיד עשו את זה. אז אם אותו בן אדם אח"כ משתמש בידע שצבר כדי לכתוב תוכנה חדשה - זו עבירה על החוק? ודאי שלא. הרי טכנית אין שום דבר ש-AI עושה היום שבני אדם לא יכלו לעשות לפני. ה-AI פשוט יותר מהיר.

וגם ברמה הפרקטית זה שטויות, הרי אי אפשר באמת למנוע את זה לאורך זמן. גם אם ימנעו מה-labs הגדולים לאמן, יבואו הסינים ויאמנו כמה שבא להם על מה שבא להם, ומי שינצח בסוף הוא זה שיש לו את המודל היותר טוב. אין לך שום דרך לדעת אחרי האימון על איזה קוד הוא אומן ואיזה לא.

החברות האלה עם תקציבים אין סופיים, הסכומים שהם מוציאים על אימון מודלים הם אסטרונומים כשמסתכלים על צד החומרה. הן מסוגלות לקנות את הזכויות לאמן על הכל, גם תוכן סגור. כלומר איזו הוצאת ספרים תגיד לא לכמה מליוני דולרים כדי לאמן על הספריה שלה? הם יכולים כנראה רק בהוצאה של מליונים לאמן על כל הספרים שהאנושות אי פעם כתבה.

וכן, זה נכון ש-AI עושה מה שאנשים עושים רק טוב יותר, אבל אני בספק שקיים האדם שיכול לשבת ולתרגם ביט לביט בסיס קוד של 100 מליון שורות ולהביא אותו למצב של קוד קריא. יש דברים ש-AI עושה שאנשים פשוט לא מצליחים, אפילו אם הוא רק עושה בלולאה מיקרו פעולה שאדם כן יכול לעשות אבל מליארדי פעמים. יש סיבה למה בחודשים האחרונים היו יותר פרוייקטי דיקומפילציה בגיימינג בסדר גודל מכל פרוייקטי הדיקומפילציה האנושיים אי פעם יחדיו.

הערת צד: נכון שעכשיו חברות המודלים הגדולות יכולות להרשות לעצמן לשלם כמעט על כל תוכן אנושי שקיים.
זה לא היה נכון עד לפני כמה שנים והן נתפסו על חם בכמה מקרים שבהן הורידו תוכן פיראטי. זה ברור שזו הייתה פרקטיקה די מקובלת שם וזה ברור שיש עוד המון מקרים שבהן הן פשוט לא נתפסו. לך תדע על כמה תוכן הן לא משלמות עד היום כי הן פשוט לא צריכות.

כן, ברור, זה שהן יכולות זה לא אומר שהן עושות ומן הסתם לפני 4 שנים החברות הללו היו יחסית אנונימיות וכמו כל חברה קטנה הם הלכו על התחום האפור כדי לטוס קדימה.

אבל היום שהן מגלגלות עשרות מליארדים ברבעון ויש להן מאות מליארדים בחשבון הבנק, וואללה אפשר לשלם להוצאת ספרים על הקטלוג שלה.

מה הכוונה ביט לביט? דקומפילציה זה משהו שעשו מאז שיש מחשבים, זה לא נולד עכשיו. אינספור תוכנות נבנו מחדש עם זה... וזה גם בכלל לא משנה מה היקף הקוד. אם זה "לא חוקי" לתוכנה בת 100 מיליון שורות, זה אמור להיות לא חוקי באותה מידה לתוכנה בת עשרת אלפים שורות. העיקרון אותו עיקרון.

נלך אפילו יותר פשוט - עובד תותח שמכיר את כל הקוד במוצר של החברה, עוזב אותה, פותח חברה חדשה ומפתח בעצמו מאפס תוכנה דומה ומשופרת - רק מהידע שצבר. זה חוקי לחלוטין, המון עשו ועושים את זה, וזה בדיוק אותו דבר.