Хто ще не може бути перероблений у навичку?

Стаття | Sleepy.md

На жаль, у наш час, чим відданіше ви працюєте, тим легше перетворити себе на навичку, яку може замінити штучний інтелект.

У наші дні гарячі списки пошуку та медіа канали заполонили "навички колег". Оскільки ця проблема продовжує набувати обертів на основних платформах соціальних мереж, увага громадськості майже неминуче зосереджується на таких великих проблемах, як «звільнення через штучний інтелект», «експлуатація капіталу» та «цифрове безсмертя робітничого класу».

Хоча ці проблеми дійсно викликають занепокоєння, мене найбільше турбує рядок у документі README проекту:

«Якість сировини визначає якість навичок: Рекомендується віддавати пріоритет збору довгоформатного контенту, написаного проактивно людиною> прийняття рішень у відповідь> щоденні повідомлення».

Ті, кого система може найлегше досконало відтворити, піксель за пікселем, є саме тими, хто працює найстаранніше.

Це ті, хто після завершення кожного проекту все ще сидить за своїм столом, щоб написати документ про результати; ті, хто, зіткнувшись з розбіжностями, готові витратити півгодини на набір довгої відповіді в чат, відверто аналізуючи свою логіку прийняття рішень; ті, хто надзвичайно відповідальний, ретельно довіряючи всі деталі роботи системі.

Працьовитість, колись найшанованіша чеснота на робочому місці, тепер стала каталізатором прискорення перетворення працівників на паливо для ШІ.

Виснажений працівник

Нам потрібно переосмислити слово: контекст.

У повсякденному контексті контекст - це фон комунікації. Але в світі штучного інтелекту, особливо в світі швидко зростаючих агентів штучного інтелекту, контекст є паливом ревучого двигуна, пульсуючою кров'ю, єдиним якорем, який дозволяє моделям робити точні висновки в хаосі.

Штучний інтелект, позбавлений контексту, незалежно від того, наскільки вражає його кількість параметрів, є не чим іншим, як амнезійною пошуковою системою. Він не може розпізнати, хто ви є, не може зрозуміти приховану течію під логікою бізнесу і не має жодного способу дізнатися про довгу боротьбу і компроміси, які ви пережили в цій мережі, витканій з обмежень ресурсів та міжособистісної динаміки, при прийнятті остаточного рішення.

І причина, чому "майстерність колеги" викликала такий величезний ажіотаж, полягає саме в тому, що вона холоднокровно і точно зафіксувала цю гору накопиченого високоякісного контексту — сучасне програмне забезпечення для корпоративної співпраці.

Протягом останніх п'яти років китайське робоче місце зазнало тихої, але виснажливої цифрової трансформації. Такі інструменти, як Feishu, DingTalk, Notion та інші, стали величезними сховищами корпоративних знань.

Візьмемо Feishu як приклад. ByteDance публічно заявила, що кількість документів, що генеруються внутрішньо щодня, є величезною. Ці щільно упаковані символи вірно відображають кожну мозкову атаку, кожну запеклу нараду та кожен стратегічний компроміс понад 100 000 працівників.

Цей рівень цифрового проникнення значно перевищує будь-яку попередню епоху. Колись знання були теплими, ховаючись у головах досвідчених працівників, блукаючи випадковими розмовами в коморі. Тепер усю людську мудрість і досвід насильно позбавили вологи, безжально осаджуючи в холодній серверній матриці в хмарі.

У цій системі, якщо ви не пишете документи, вашу роботу неможливо побачити, і нові колеги не можуть з вами співпрацювати. Ефективна робота сучасних підприємств будується на тому, що кожен працівник день за днем пропонує контекстні внески в систему.

Старанні працівники несуть старанність і доброзичливість, беззастережно розкриваючи свої шляхи мислення на цих холодних платформах. Вони роблять це, щоб забезпечити безперебійну роботу командного механізму, довести свою цінність для системи та відчайдушно знайти своє місце в цьому складному комерційному гіганті. Вони не добровільно здаються; вони просто незграбно та старанно дотримуються правил виживання на сучасному робочому місці.

Проте, як не парадоксально, ця контекстна інформація, що залишилася для міжособистісної співпраці, стала ідеальним паливом для штучного інтелекту.

Панель адміністратора Feishu має функцію, яка дозволяє суперадміністраторам масово експортувати документи членів та записи комунікації. Це означає, що огляди проектів і логіка прийняття рішень, над якими ви працювали протягом трьох років під час незліченних нічних змін, можуть бути легко упаковані в бездушний стислий файл за допомогою лише одного виклику API за лічені хвилини.

Коли люди зменшуються до розмірів API

З появою "colleague.skill" у розділі Issues на GitHub та на різних платформах соціальних мереж почали з'являтися деякі надзвичайно незручні похідні.

Деякі створили "ex.skill", намагаючись нагодувати штучний інтелект записами чатів з WeChat за останні кілька років, щоб він міг продовжувати сперечатися або бути ніжним у тому знайомому тоні; інші створили "unrequited love.skill", зменшуючи недоторканні серцебиття до холодної міжособистісної пісочниці, повторюючи дослідницькі діалоги, крок за кроком шукаючи оптимальний емоційний результат; а ще інші створили "paternalistic boss.skill", заздалегідь пережовуючи гнітючу риторику PUA в цифровому просторі, будуючи для себе сумну психологічну лінію оборони.

Випадки використання цих навичок повністю вийшли за межі ефективності роботи. Ми несвідомо звикли до холодної логіки інструментального підходу, розбираючи та об'єктивуючи тих, хто колись був плотінню, живими людьми.

Німецький філософ Мартін Бубер колись запропонував, що основа людських стосунків зводиться до двох радикально різних режимів: «Я-Ти» та «Я-Оно».

У зустрічі «Я-Ти» ми долаємо упередження і розглядаємо іншого як повноцінну та гідну живу істоту, на яку можна дивитися. Цей зв'язок відкритий беззастережно, сповнений яскравої непередбачуваності, і саме через свою щирість він здається особливо крихким; однак, як тільки ми занурюємося в тінь «Я-Оно», жива людина зводиться до об'єкта, який можна розібрати, проаналізувати, категоризувати та позначити. Під цим надзвичайно утилітарним розглядом єдине, що нас цікавить, це «Яка користь від цієї речі для мене?»

Поява таких продуктів, як «екс-майстерність», свідчить про те, що інструментальна раціональність «Я-Оно» повністю проникла в найінтимнішу емоційну сферу.

У справжніх стосунках людина є тривимірною, сповненою зморшок, постійно сповненою протиріч і нюансів, а її реакції змінюються залежно від конкретних обставин і емоційних взаємодій. Ваш колишній може дуже по-різному реагувати на одне й те саме речення, прокидаючись вранці в порівнянні з роботою допізна вночі.

Однак, коли ви зводите людину до навички, те, що ви усуваєте, це лише залишкова частина її функціональності, яка виявилася "корисною" для вас і могла б "принести вам користь" у цих конкретних стосунках. Колись тепла і самодостатня особа повністю втрачає свою душу в цьому жорстокому очищенні, відчужується в "функціональний інтерфейс", з яким ви можете працювати за бажанням.

Потрібно визнати, що ШІ не винайшов цю моторошну холодність на порожньому місці. До появи штучного інтелекту ми вже звикли до того, щоб позначати інших, точно вимірюючи «емоційну цінність» і «вагу соціальної мережі» кожних відносин. Наприклад, на ринку знайомств ми визначаємо характеристики людини за допомогою сіток; на робочому місці ми класифікуємо колег як «здатних» або «ледачих». Штучний інтелект просто зробив цей неявний, функціональний вибірковий процес між людьми відверто явним.

Люди були зведені до рівня, залишивши лише той аспект, який «корисно для мене».

Електронне інкапсулювання

У 1958 році угорсько-британський філософ Майкл Полані опублікував "Особисті знання". У цій книзі він представив дуже проникливу концепцію: неявні знання.

У своїй знаменитій формулі Полані стверджував: "Ми знаємо більше, ніж можемо сказати".

Він навів приклад навчання їзді на велосипеді. Вмілий велосипедист, їдучи без зусиль, може ідеально врівноважуватися при будь-якому нахилі гравітації, але він не може точно описати новачкові тонку інтуїцію того моменту словами або сухими фізичними формулами. Він вміє їздити, але не може пояснити, як це робить. Цей тип знань, який не можна закодувати або висловити словами, називається неявними знаннями.

На робочому місці сповнене таких неявних знань. Старший інженер, усуваючи несправність системи, може швидко визначити проблему, поглянувши на журнали, але йому буде важко задокументувати цю «інтуїцію», що базується на тисячах випадків спроб і помилок. Відмінний продавець може раптово замовкнути за столом переговорів, і відчуття тиску та відчуття часу, яке приносить це мовчання, неможливо передати в жодному посібнику з продажу. Досвідчений фахівець з кадрів може, просто спостерігаючи за тим, як кандидат на половину секунди уникає зорового контакту, відчути перебільшення в резюме.

Те, що "Colleague.skill" може витягти, - це лише те, що вже було записано або сказано - явний знання. Він може зібрати ваші посмертні документи, але не може захопити ваші труднощі під час їх написання; він може відтворити ваші відповіді на рішення, але не може відтворити інтуїцію, що стоїть за вашим прийняттям рішень.

Те, що система виокремлює, завжди є лише тінь людини.

Якби історія закінчилася тут, це було б не більше ніж ще одна невдала імітація людства технологією.

Однак, коли людина перетворюється на навичку, ця навичка не залишається статичною. Її використовують для відповіді на електронні листи, написання нових документів, прийняття нових рішень. Іншими словами, ці тіні, згенеровані штучним інтелектом, починають генерувати нові контексти.

І ці контексти, згенеровані штучним інтелектом, потім зберігаються в Feishu та DingTalk, стаючи навчальними матеріалами для наступного раунду дистиляції.

Ще в 2023 році дослідницька група з Оксфордського університету та Кембриджського університету спільно опублікувала статтю про "колапс моделі". Дослідження показало, що коли модель штучного інтелекту навчається ітеративно, використовуючи дані, згенеровані іншими ШІ, розподіл даних стає дедалі вужчим. Ці рідкісні, маргінальні, але дуже автентичні людські риси швидко стираються. Вже через кілька поколінь навчання на синтетичних даних модель повністю забуває довгохвостикі, складні реальні людські дані і замість цього видає надзвичайно посередній і однорідний контент.

У 2024 році, Природа також опублікував наукову статтю, в якій стверджується, що навчання майбутніх поколінь моделей машинного навчання на наборах даних, згенерованих штучним інтелектом, серйозно зашкодить їхнім результатам.

Це схоже на ті меми, які поширюються в Інтернеті, спочатку це скріншот високої роздільної здатності, який був поширений, стиснутий і знову поширений незліченною кількістю людей. З кожним розворотом втрачається кілька пікселів і додається шум. Зрештою, зображення стає розмитим, цифровим імпасted.

Коли реальний людський контекст з неявними знаннями висушений досуха, і система може навчатися лише на імпасted тінях, що залишиться врешті-решт?

Хто стирає наші сліди

Залишається лише правильний вид нісенітниці.

Коли річка знань перетворюється на нескінченне повторення та самозадоволення штучного інтелекту, все, що система видихає, стає надзвичайно стандартним, надзвичайно безпечним, але й безповоротно порожнім. Ви побачите безліч ідеально структурованих звітів, численні бездоганно складені електронні листи, але їм бракуватиме людського дотику, вони будуть позбавлені будь-яких дійсно цінних ідей.

Велика поразка знань не в тому, що людський мозок став тупим; справжня трагедія в тому, що ми передали право мислити та відповідальність за залишення контексту нашим власним тіням.

Через кілька днів після вибуху "colleague.skill" на GitHub тихо з'явився проект під назвою "anti-distill".

Автор цього проекту не намагався атакувати великі моделі або писати якісь грандіозні маніфести. Вони просто надали невеликий інструмент, щоб допомогти працівникам автоматично генерувати, здавалося б, розумні, але насправді наповнені логічним шумом, некоректні довгі тексти на Feishu або DingTalk.

Його мета була простою: приховати свої основні знання, перш ніж вони будуть перероблені системою. Оскільки система любить отримувати "активно написані довгі тексти", дайте їй купу беззмістовного набору символів.

Цей проект не розгорівся, як "colleague.skill"; він навіть здавався трохи незначним і слабким. Використання магії для перемоги над магією все ще в основному обертається навколо правил гри, встановлених капіталом і технологією. Вона не може змінити тенденцію системи, яка все більше і більше покладається на штучний інтелект і все більше ігнорує реальних людей.

Але це не заважає цьому проекту бути найбільш трагічно поетичною та глибоко метафоричною сценою в усій абсурдній драмі.

Ми дуже стараємося залишати сліди в системі, пишемо детальні документи, приймаємо ретельні рішення, намагаючись довести наше минуле існування в цій величезній сучасній корпоративній машині, доводячи свою цінність. Не усвідомлюючи, що ці дуже серйозні сліди з часом стануть гумкою, яка нас знищить.

Але, дивлячись на це з іншої точки зору, це не обов'язково повний глухий кут.

Тому що те, що гумка стирає, завжди лише ваше минуле. Навичка, упакована у файл, незалежно від того, наскільки складною є її логіка, по суті, є лише статичним знімком. Вона застигає в той експортований момент, покладаючись лише на застарілі поживні речовини, нескінченно обертаючись у встановлених процесах і логіках. Їй бракує інстинкту протистояти невідомому хаосу і, звичайно, вона не має здатності до саморозвитку через невдачі в реальному світі.

Коли ми передаємо ці високо стандартизовані, шаблонні досвіди, ми також звільняємо наші власні руки. Поки ми продовжуємо виходити назовні і постійно руйнувати та реконструювати наші когнітивні межі, ця тінь, що відпочиває в хмарі, назавжди буде лише слідувати за нашими кроками.

Людина - це динамічний алгоритм.