المنطق المعيب في قلب الخيال الآلي

لا تحل التقنية من أجل الثقة أو المساءلة أو العمل - إنها تنقل المسؤولية عن الأنظمة والأفراد.

عبر القطاعات الخاصة والعامة وغير الهادفة للربح ، يتم تطبيق وصفة شائعة على مخازن البيانات المتزايدة: التشغيل المتداخل → التكامل → التحسين التلقائي.

يعد التشغيل الآلي بمثابة الوعد الذي يقود الثورة الحالية عبر الأعمال والبيروقراطية ، حيث يعدنا بالبدء في عصر "المدن الذكية" و "الخدمات الفعالة" و "الترفيه غير المحدود".

غارقة في الكم الهائل من المعلومات (التعريف الشخصي وغير ذلك) الناتجة عن عملياتك في العصر الرقمي؟ لا خوف ، عصر الأتمتة هنا.

كومة واحدة لحلها جميع

أتمتة الوعود (رخيصة) الامتثال. يعبد في مذبح الكفاءة. إنه يرسم مشاكلك الشريرة كأنها قابلة للتصحيح وأنظمتك المعقدة كمجموعة من العلاقات السببية الخطية التي تنتظر فقط أن تكون مفككة. إنه لا يميز بين أنواع المشكلات والعمليات التي تواجهها المؤسسات الخاصة مقابل المؤسسات العامة. لن يقتصر الأمر على استخراج البيانات الخاصة بك عن الماس ، ولكن أيضًا قطع الأحجار وتلميعها. ببساطة ، سوف "يغير العالم".

لا تقوم المنظمات بتعبئة بياناتها فقط. تأتي أفضل الأفكار من تحليل مجموعات هائلة من البيانات من مصادر مختلفة. هذا هو السبب في قيام وكالات القطاع العام بتجميع البيانات عبر الخدمات ، والسبب في أن الشركات الاستهلاكية تتلاعب بالمعلومات الشخصية لعملائها. كما ذكرت صحيفة نيويورك تايمز ، أنفقت الشركات الأمريكية ما يقرب من 20 مليار دولار في عام 2018 على الحصول على بيانات المستهلك ومعالجتها. المنطق الموعود لهذا الإنفاق يذهب إلى شيء من هذا القبيل:

في الخطوة 1 ، التشغيل المتداخل ، يتم جعل البيانات قابلة للقراءة وآلة الهضم. Nigh ولت هي أيام من رقمنة ملفات PDF يدوياً. هناك مجموعة متزايدة من الأدوات ، بما في ذلك الماسحات الضوئية ورؤية الكمبيوتر وخوارزميات معالجة اللغة الطبيعية ، تتحسن في إعداد حتى أكثر ركائز البيانات فوضى واستعادة نشاط جمع البيانات المستخرج وتجميعها ، وقد حان وقت التحليل. باستخدام تحليلات الرسم البياني ، يمكن حتى طبقات البيانات الأكثر تباينًا في التعدين.

في الخطوة 2 ، يتم دمج التكامل من البيانات المنفصلة وإتاحتها عبر الواجهات ولوحات المعلومات وقواعد البيانات. الباحثين الطولية ، نفرح! صوامع امتدت. يتم تحليل الرسوم البيانية. العلاقات غير المرئية في السابق كانت على غرار وتصور. الاتجاهات معلنة ، تشريح قوتها واتجاهها وخدمتها "البصيرة".

في الخطوة 3 ، يتم وضع التحسينات والخوارزميات على المكدس الذي يعد بإجراء أشياء مثل "التوصية" و "التخصيص" و "التنبؤ" بشكل أفضل بكثير من أي شخص يمكن أو لا يمكن لأي شخص. بدلاً من ارتباط أصحاب المصلحة المعقد بمناقشاته الفوضوية حول القيم ، تأخذ هذه الخوارزميات إشاراتها من منطق قراراتنا السابقة والروايات السائدة - من الرأسمالية والمؤسسية النيوليبرالية. إنهم يقودون نحو الكفاءة. إنهم يقودون نحو النمو. إذا كانت الأنظمة السابقة التي تولدت مدخلات البيانات التاريخية الخاصة بها مستدامة أو منصفة أو عادلة ، فقد تكون الخوارزميات أيضًا. إذا لم يكن كذلك ، فصاعدا - سرعة الانهيار.

في الخطوة 4 ، الأتمتة ، يتم إعطاء خوارزميات جديدة مسؤوليات جديدة. بناءً على مجموعة من العناصر التي تدعي بالفعل فهم ديناميات النظام وعلاقاته بشكل أفضل ، فإنهم يعرضون الآن إعادة تنظيم آليات المساءلة وهياكل اتخاذ القرار. أنها تحدد الجدارة الائتمانية. يخصصون فوائد الرعاية الصحية. وهي تتوقع الوصول إلى الخدمات العامة - على السلوكيات المتعامدة سابقًا ، أو على قدرة الفرد على إثبات هويته.

واحسرتاه. على المدى القريب ، على الأقل ، تبدو الأرض الموعودة وكأنها تحاول إنشاء حساب رقمي DHS في أركنساس ، ولسوء الحظ ، ليست جميلة.

"المستقبل موجود بالفعل هنا - فقط موزع بشكل غير متساو

من جثم الحالي في العمل الخيري ، أرى التحول يحدث في كل مكان - بسرعات مختلفة في أماكن مختلفة ، مما يغير الأساس للعمل الذي نريد القيام به عبر القطاعات والمناطق - في بعض الأحيان بشكل لا يطاق ، دائمًا بلا هوادة.

في الماضي ، عملت في القطاع العام (معهد Cebrowski التابع ل DoD) ، والقطاع الخاص (الأبحاث المشتركة حول مستقبل التكنولوجيا) ، وفي الاستشارات عبر القطاعات (تطوير أنظمة إيكولوجية للابتكار لمسابقات حوافز الجائزة). في وقت قصير نسبيًا ، جئت إلى دائرة كاملة من عشاق المشاركة التقنية (في عمر 24 عامًا ، وصفت نفسي في طلب وظيفة بأنه "مبشر لبس") إلى متشكك حذر في قدرة التكنولوجيا على التدخل بشكل إيجابي في الأنظمة البشرية.

في العام الماضي ، كنت في اجتماع على Sand Hill Rd. ، متغلبًا على أسطواني حول تركيز الأخلاقيات والإنصاف في تطوير أنظمة القطاع العام الآلية ، عندما سأل أحد الممولين والمتحمسين لتكامل البيانات على محمل الجد ، "لماذا تستمرون في تحقيق ذلك؟ - مثل ، ماذا يمكن أن يحدث الخطأ؟ "

في هذه المرحلة ، من وجهة نظري ، لا يتعلق الأمر بالأخطاء التي يمكن أن تحدث وأكثر حول ما حدث بالفعل. هناك شيء فاسد في وسط الخيال الآلي.

الأتمتة تمر بأسماء كثيرة ("الذكاء الاصطناعي" ، "صنع القرار الحسابي" ، إلخ) ولكنها تحب إخفاء طبيعتها الحقيقية. إليك بعض الوجوه الكثيرة التي ترتديها.

في القمامة ، القمامة خارج.

ومعظمها من القمامة.

من المؤكد أن "البيانات الضخمة" كشفت عن علاقات وعلاقات تتيح تحقيق الدخل وإنشاء القيمة وتحسين تقديم الخدمات (ربما أقل مما تعتقد). ولكن هذا إلى حد كبير على الرغم من جودة البيانات وصحتها ، وليس بسببها.

للإشارة إلى واحدة من العديد من الأخطاء الخاطئة ، فإن ما نبنيه ليس في الواقع ذكاءً مصطنعًا ، إنه ذكاء بشري على مستوى الآلية المجتمعية الصناعية - نعم ، ما زال الرجل الذي يقف خلف الستارة يلتف حول مقابض الحضارة. ونعم ، إنه بالفعل رجل أبيض يرتدي شورتات شحن مع جوارب وصنادل في بالو ألتو.

غالباً ما يتخفي التخطيط نفسه على أنه تنبؤ.

على نطاق واسع ، الخوارزميات تخلق المستقبل الذي تتنبأ به.

عندما تقدم الآلات تنبؤًا دقيقًا ، فإن ذلك يمثل انتصارًا للوضع الراهن ، وليس من التبصر.

في أغلب الأحيان ، كما هو الحال مع البشر ، يصنعون تنبؤات تتحقق ذاتياً. سيعملون بشكل أكبر ، أسرع هذه المرة وبدقة أكبر وبقدر أقل من المدخلات اللازمة. بالنسبة للتوصية بما يجب مشاهدته بعد ذلك على Netflix ، هذا أمر رائع حقًا. أنا لا أطمح للتوقف عن إعجاب أفلام الخيال العلمي بفارق كبير من الإناث. (في حال لم تخترق فقاعة المرشح الخاصة بك ، لا تنام على المعسكر الكلاسيكي الكلاسيكي "الهرم".)

ولكن عندما يتعلق الأمر بتقديم خدمات القطاع العام والأنظمة التي لها تأثير حقيقي على الأسر وسبل العيش ، فهذه قصة مختلفة. لماذا نصمم صنع القرار في المستقبل عمداً على الأنماط السابقة ، التي نعرف أنها كانت متحيزة بشكل منهجي وغير عادلة وغير منصفة وتمييزية ، وفي كثير من الحالات غير مسؤولة أيديولوجياً ، إن لم تكن خطيرة؟ من المؤكد أن الخوارزميات جيدة في التعلم من الأنماط السابقة إلى اتخاذ القرارات المستقبلية. لكن في الأنظمة التي لا تعد ولا تحصى ، هذا هو آخر شيء يجب أن نريدهم أن يفعلوه.

الاحتكاك هو محرك الاستقرار - والتقدم.

النظم الصحية تزدهر عند حافة الفوضى.

يصل التنفيذ التلقائي تحت شعار "التقدم" ، لكنه يكشف عن نفسه عامل الركود.

نظرية الاحتكاك - الصراع - هي القوة الدافعة في التطور البيولوجي ، واستخدام الأدوات وتطوير التكنولوجيا ، ونظام المناعة المزدهر ، وأكثر من ذلك. ولكن في كتاب وصفات الأتمتة ، فهو الأول في قائمة العناصر الفرعية للمكونات.

المرضى من الاضطرار إلى إجراء البحوث الخاصة بك؟ ستعمل الخوارزميات على استخراج الكثير من المعلومات بحيث لا تضطر إلى ذلك. المرضى من الانتظار في الطابور؟ تستطيع الخوارزميات تحسين وقت وصولك. المرضى من تأليف ردود كجزء من التواصل البشري الأساسي؟ يمكن أن تقترح الخوارزميات استجابة غير لائقة تمامًا لك.

ولكن ما الذي يكمن في هذه الاندفاع لتليين عملنا (عبر)؟ ما الذي قد يضيع عندما لا نضطر إلى الانتظار أو نعاني من الملل أو الكفاح أو التفكير في الأمر أو حتى المحاولة؟

التحسين والتأثير هي أشكال خفية من السيطرة.

إن الاقتراض من نماذج الأعمال التجارية للتكنولوجيا ، فإن اللعبة النهائية للأتمتة في مجتمع رأسمالي لا تبيع فقط المزيد من الأشياء ، ولكنها تصمم سلوكًا بشريًا بالفعل.

البنية التحتية لاستخراج البيانات التي تعتمد على أتمتة التشغيل هي نفسها التي تدعم Surveillance Capitalism ، وتريد أن تفسد وكالتنا ، وتسلب منا ملاذنا ، وتمحو عدم إمكانية التنبؤ بنا. على حد تعبير شوشانا زوبوف ، "انسى كليشيه أنه إذا كان مجانيًا ، فأنت منتج - فأنت لست المنتج ، ولكن مجرد مصدر مجاني للمواد الخام التي يتم تصنيع المنتجات منها للبيع والشراء ... أنت لست المنتج ، أنت هي الذبيحة المهجورة ".

في "الخوارزمية والبلوز: طغيان يوتوبيا للتكنولوجيا الذكية القادمة" ، يصف بريت فريتشمان بعض الإيديولوجية التي تكمن في قلب "التكنولوجيا الذكية" والأتمتة:

"من المفترض أن الهواتف الذكية والشبكات والسيارات والمنازل والملابس وما إلى ذلك ستجعل حياتنا أسهل وأفضل وأكثر سعادة. هذه الادعاءات متجذرة بعمق في رؤية طوباوية ذكية للتكنولوجيا تبني من رؤى تقنية طوباوية سابقة مثل طوباوية الإنترنت وكذلك من رؤى طوباوية اقتصادية مثل فكرة Coasean عن أسواق خالية من الاحتكاك وفعالة تمامًا ورؤية Taylorist من المدارة علميا ، والعمال المنتجة تماما. في عالمنا الرقمي الحديث ، تزحف هذه الرؤى إلى ما هو أبعد من سياقاتها الأصلية المتمثلة في الإنترنت والأسواق وأماكن العمل المثالية. التكنولوجيا الذكية يمكن أن تدير الكثير من حياتنا. "

لا يوجد سحر في التعلم الآلي.

فقط تلك والأصفار والرسوم البيانية والعلاقات.

لا يوجد سحر في التعلم الآلي ، بل مجرد تدفق متتابع من صنع القرار المتنازل (وبالتالي المساءلة). من المؤكد أن اختلالات القوة الكامنة في عالم يتخذ فيه بعض البشر قرارات نيابة عن غيرهم من البشر (ناهيك عن غير البشر) تمثل الكثير من المشكلات ، لكن هل نحن على يقين من أن المعادلات الرياضية المجيدة ستقوم بعمل أفضل؟

خلال حديثه مع صحيفة نيويورك تايمز ، اعترف جد برامج الكمبيوتر دونالد نوث مؤخرًا ، "أنا قلق من أن الخوارزميات أصبحت بارزة جدًا في العالم. لقد بدا أن علماء الكمبيوتر كانوا قلقين من أن لا أحد يستمع إلينا. أنا الآن قلق من أن الكثير من الناس يستمعون ".

من الواضح أن العديد من صانعي القرار قد توهموا بالفعل أن الآلات أكثر ملاءمة لاتخاذ الخيارات مما نحن عليه. يتم وضع الكود المسئول عن الأنظمة والقرارات المهمة ، في كثير من الحالات دون التفكير في عمليات الإنصاف أو الفصل في الأحكام. من يمكنه تحمل معركة قانونية مطولة للسعي للحصول على اللجوء بعد رفض خوارزمية عربات التي تجرها الدواب رعايتهم الصحية؟ ومن المفارقات ، فقط أولئك الذين يمنعهم دخلهم من الحصول على الخدمات العامة على الإطلاق.

من يفوز - ومن يخسر - في عالم آلي؟

أتمتة الوعود للدخول في أشكال جديدة تماما من عدم المساواة.

على نحو متزايد ، يتم الوصول إلى الخدمات التي تضع وجها إنسانيا صريحا على أتمتة تقديم الخدمات بأسعار أعلى من قيمتها. وفي عالم آلي ، تعد الخصوصية والملجأ امتيازات تدفع مقابلها.

"الأفضل أبداً لا يعني الأفضل للجميع. هذا يعني دائما أسوأ بالنسبة للبعض. "- مارغريت أتوود

لمعاينة الأشخاص الذين يخططون للفوز باللعبة الطويلة ، ألقِ نظرة خاطفة على أكثر المؤيدين صوتًا:
+ يشجع بنك التنمية للبلدان الأمريكية (IDB) استخدام التحليلات التنبؤية في القطاع العام ، وهو جزء من صنم مستمر يُعرف أيضًا باسم "البيانات من أجل التنمية".
+ لشركة IBM ، البيانات هي النفط الجديد. بالنسبة لشركات برمجيات المؤسسات ، فإن الأتمتة هي ما يخدم العشاء ، والقطاع العام سوق ناشئة ضخمة.
+ كما سمعنا من Facebook Zuckerberg على Facebook (عندما واجه تحديًا ضعيفًا) من قبل الكونغرس بشأن أي مشكلة تقريبًا مع النظام الأساسي الذي يتوسط الآن في الاستهلاك العالمي للمعلومات (المصمم في البداية للحد من الاحتكاك المرتبط بفحص الفتيات المبتدئات): سيتم إصلاح الخوارزميات.
+ تستفيد الشركات الاستشارية الكبرى مثل Accenture من ما تسميه "رؤيتها التكنولوجية". هذا الأسبوع ، تتعرض مكينزي للنقد لمساعدة الحكومات الاستبدادية وإضفاء الشرعية عليها.

في الأساس ، هناك مفاضلات ضمنية في المستقبل الآلي. نحن نبيع فاتورة من السلع بناءً على القيمة المفترضة للفعالية ، لكننا نجري مقايضات غير مرئية في الأسهم. لقد وعدنا بالتحرر من الاحتكاك ، لكن في النهاية فقدنا الصدفة. تعمل أنظمتنا على تحسين تخصيص الموارد ، ولكن فقط من خلال جعلنا يتم مسحهم بشكل متواصل ومسؤولون بشكل متزايد عن إدارة تفاعلاتنا مع النظام. نحن نتطلع إلى مستقبل حيث الكدح تنقله الآلة ، لكننا نكافح من أجل تخيل التمسك بالكرامة الإنسانية والحياة الهادفة. يتم إغراءنا بمنطق القياس والتقييم الصريح ، ولكن ننسى أنه لا يمكن قياس كل ما يهم.

يكمن التفاوت الهيكلي بشكل مباشر في النقطة الأتمتة التحليلية.

إن الاعتماد المفرط على تحليل البيانات يعطي أولوية وظيفية لأنواع الارتباطات التي يكون الجبر الخطي جيدًا في تحديدها - ولكن ليس تلك الناتجة عن ديناميات النظام المعقدة.

الآن ، الخوارزميات المتحيزة هي مشكلة معروفة. نظرًا لأنهم يعتمدون على البيانات السابقة ، فهم يخضعون لتدوين الأنماط السيئة ، استنادًا إلى جمع البيانات السيئة والتوزيع التاريخي غير العادل للخدمات (وبالتالي الإشراف على ذوي الدخل المنخفض والأقليات) ، والافتراضات المعدة مسبقًا. يمكننا أن نرى الدليل على هذا التحيز في النتائج العنصرية والجنسية لجهود الأتمتة عبر القطاعات.

ولكن مع كل التركيز على تقديم الإنصاف والمساءلة والشفافية في التعلم الآلي ، ما زلنا نفشل في رؤية الغابة للأشجار. على وجه التحديد ، عادة ما تفشل محاولات تصحيح التحيز في الخوارزميات في حساب عدم المساواة الهيكلية. نظرًا لأن البيانات الأوتوماتيكية غارقة في البيانات التاريخية ولا تولدها ، فهي تعرف فقط كيفية تعميق أخاديد الأنماط الحالية ، وتقيِّم فقط تلك المتغيرات التي تم عزلها للقياس ثم أصبحت ذات مغزى من خلال علاقتها بالمقاييس الأخرى.

ولكن على وجه التحديد هو النظام البيئي الهيكلي الذي يتم فيه نشر الأتمتة ، فسوف نحتاج إلى حل المشكلات والتعامل معها إذا أردنا أن نحصد وعد الأدوات التحليلية. مقاومة شرعية للتحليل الإحصائي ، فإن الماء الذي نسبح فيه - وهو غني غني مليء بروايات الهيمنة ، وأيديولوجيات النمو والاستهلاك ، والانقسامات الخاطئة الأساسية ، والأشكال المتفشية ، والمعلومات الخاطئة في كل مكان ، والقسوة الإيكولوجية - هو شيء يمكننا أن نلاحظه ولكن بالكاد يتجاوز.

مع الأتمتة ، لا يتم عرض السمو. التحسين ، نعم. التخفيف ، ربما. الحلول ، بالاسم فقط. بدلاً من ذلك ، يحمل خيال الأتمتة أخلاقيات الاستثنائية والجاذبية المتغطرسة لـ "نهاية التاريخ". يقترح خيال الأتمتة نشر تحليلات لقفل هياكل الوضع الراهن. إنها وجهة نظر معينة حول "التقدم". وتشير الأمور إلى أن الأمور يمكن أن تكون أفضل بكثير ، ما دام التوزيع الرفيع المستوى للسلطة والموارد كما هو إلى حد كبير.

بالنظر إلى الخوارزميات التي تعد بثورة في الرعاية الصحية ، كتب شانون ماتيرن:

علاوة على ذلك ، فإن الإيمان الأعمى بأن جمع البيانات في كل مكان سيؤدي إلى "اكتشافات تعود بالنفع على الجميع" يستحق التشكيك. يمكن أن تعزز الدراسات التجريبية واسعة النطاق الفوارق الصحية ، خاصةً عندما لا تستند التحليلات الديموغرافية إلى فرضيات محددة أو أطر عمل نظرية. تقول الأخلاقيات سيليا فيشر أن دراسات مثل "المشروع الإنساني" تحتاج إلى تحديد واضح "ما معنى الطبقة والعرق والثقافة ، مع مراعاة كيف يتم تشكيل هذه التعاريف باستمرار وإعادة تعريفها من قبل القوى الاجتماعية والسياسية ،" وكيف تم تهميش مجموعات معينة ، حتى المرضية ، في الخطاب والممارسة الطبية. وتقول إن الباحثين الذين يستخلصون استنتاجات تستند إلى الارتباطات المرصودة - غير المدروسة وغير التاريخية - يتعرضون لخطر "إسناد المشاكل الصحية إلى التصرفات الوراثية أو الثقافية في المجموعات المهمشة بدلاً من السياسات التي تحافظ على عدم المساواة في الصحة السياسية والمؤسسية النظامية." - شانون Mattern ، "قواعد البيانات في Codespace"

يعمل التنفيذ التلقائي على نقل عبء المساءلة بعيدًا عن الأنظمة وعلى الأفراد.

أسطورة وقت الفراغ غير محدود من خلال الأتمتة يرن بالفعل كاذبة.

في عالم آلي ، أعيد تصميم العمليات ليس لتحسين تجربة المستخدم ، ولكن لزيادة هوامش الربح و / أو خفض نفقات رأس المال البشري.

ولكن كما أظهرت أبحاث كارين ليفي في مجال النقل بالشاحنات ، فإن الأتمتة لا تحل محل البشر بقدر ما تغزوها. مثل الشريك السابق العنيف ، فإنه يقوم بالمسح والتجاوزات والسياسات والتلاعب ، بينما يتطلب الوصول الحميم إلى الجسم ويطالب بزيادة الوصول إلى العقل.

وبدون تدخل ، سيتم تهميش الموجودين بالفعل على الهامش. وعندما يتم نشر الأتمتة في خدمة الوضع الراهن ، يتم استخراج القيمة و / أو العمل غير المرغوب فيه من كل شخص يتفاعل مع الأنظمة الآلية.

المريض هو الآن منسق وداعية لرعايتها. يتم استهلاك المستهلك بنشاط في دورة الاستهلاك المستمرة. المواطن حاكم الآن لحقيقتها وقيمها لمعنىها الخاص. عبر القطاعات ، أصبح العمل غير المرئي (وغير المدفوع الأجر) ضروريًا الآن للتنقل في الأنظمة التي نتورط فيها بشكل لا ينفصم ، ويكشف لنا - الفرد - المسؤولية المتزايدة والمتزايدة سلعة في أعمال الاستهلاك والمواطنة والسعي إلى الصحة والرفاهية.

لا يوجد شيء مثل التكنولوجيا المحايدة.

في التسلسل الهرمي للتكنولوجيا الأتمتة ، يتم تضمين القيم غير المرئية في كل مكان تنظر إليه.

هناك قيم - قيم أخلاقية - في كل اختيار للتصميم ، وفي كل عملية تنفيذ ، وفي كل تغيير في الثقافة التنظيمية ، وفي كل تأثير على صنع القرار للمستخدم النهائي.

يحجب تأطير الأتمتة "كحل تقني" أو تطبيق لا مفر منه للتكنولوجيا الأسس الفلسفية والأخلاقية القديمة لخوارزميات التعلم الآلي الضمنية في رصة الأتمتة ، وغالبًا ما تعمل على طيار آلي بدلاً من إجراء محادثات جادة وشاملة حول القيم التي تقاوم الكمي والقياس.

عندما يتعلق الأمر بتكنولوجيا الأتمتة ، يجب ألا نفترض أبدًا الحياد ، ناهيك عن التقدم الإيجابي. هذا مهم بشكل خاص عندما يتعلق الأمر بتكامل البيانات والأتمتة في القطاع العام. يمكن نشر البنية التحتية التقنية نفسها التي تم بناؤها لدعم شفافية الحكومة بسهولة من أجل السيطرة الاجتماعية. يمكن استخدام نفس طبقات التحليلات التي تعد بجعل أنظمة العدالة الجنائية أكثر عدلاً لملء السجون الخاصة بالمواطنين المهمشين. ويمكن تعبئة نفس آليات المراقبة التي تعد بتحسين السلامة العامة لتقييد وصول المواطنين إلى الخدمات.

تعمل الصين على تعزيز نظام الائتمان الاجتماعي الخاص بها ، والذي يعتمد حرفيًا على عبارة الحكومة "التي كانت غير جديرة بالثقة مرة واحدة ، ومقيدة دائمًا" ، كوسيلة لتحسين ثقة المواطنين في الحكومة. التقى المسؤولون الصينيون مع نظرائهم في 36 دولة على الأقل العام الماضي على وجه التحديد لتبادل نهجهم في "إدارة وسائل الإعلام أو المعلومات الجديدة" (اقرأ: التحكم الرقمي). في المكسيك ، حيث يعتقد بالفعل 2٪ فقط من المواطنين أنهم يعيشون في ظل ديمقراطية كاملة ، فإن الشفافية تتقدم بسرعة أمام المساءلة ، تاركة وراءها ليس فقط الحقيقة ، ولكن أيضًا السخرية وفك الارتباط. في البرازيل ، يتم ربط نظام بيانات عام متكامل وشامل وموسع تم تصميمه لأتمتة تقديم الخدمات الاجتماعية ببيانات توظيف القطاع الخاص ، تماماً كما يتولى متشدد منصبه الذي عمل على تشميع الرومانسية بشأن الديكتاتورية العسكرية. في كينيا ، شرعت الحكومة في تصنيف الهندسة الوراثية وشحمة الأذن لكل مواطن. وفي الولايات المتحدة ، يتم بناء أنظمة بيانات متكاملة عامة ستلمس قريباً غالبية المواطنين.

لكي نكون واضحين ، فإن العديد من موظفي الخدمة المدنية المتفانين الذين يديرون خدماتنا العامة يرحبون بحق بتكامل البيانات ؛ حتى الوصول إلى لوحات معلومات البيانات في الوقت الفعلي من داخل الوكالة الخاصة لا يزال احتمالًا مقنعًا في العديد من المناطق. ولكن هناك تمييزًا مفيدًا بين البيانات المستخدمة لتحسين النتائج من خلال البحث مقابل البيانات المستخدمة في إدارة الحالات الفردية والتحليلات التنبؤية ودعم القرار وتقديم الخدمات تلقائيًا. أنا قلق من أن شركات التكنولوجيا تبيع القطاع العام برؤية الأتمتة التي تتضمن أدواتها قيم الرأسمالية وليس الاستدامة ؛ الكفاءة ، وليس العدالة ؛ الوضع الراهن ، وليس العدالة. وتجدر الإشارة إلى أنه بغض النظر عن عدد أفضل الممارسات المتبعة في التصميم والتنفيذ (كما كانت عليه في نظام البيانات المتكامل في مقاطعة Allegheny ، PA) ، هناك جانبان على الأقل لكل قصة للأتمتة.

جميع الصور هنا من باب المجاملة دانييل رين على فليكر

في كل مكان تنظر إليه ، يكمن خيال الأتمتة في إيجاد أرض خصبة للشراء لزراعة بذورها. على الرغم من الضجة الصارخة التي تأتي من شركات تكنولوجيا الشركات ، فإنها في الغالب تقوم بذلك بهدوء وبغرابة واستراتيجية.

يتم ترك المجتمعات المتأثرة غير مدركة حتى أول اتصال مع عملية عربات التي تجرها الدواب أو غضب تجربة المستخدم. IRBs في الجامعة شيء يتوق إليه بهدوء ، ولكنه نسي منذ فترة طويلة في الشحن. يتم رفع الأنظمة بالجملة من سياق واحد ، باللون الأبيض ، ويتم إسقاطها في سياق آخر. تم بيعها بواسطة وعد التحديث والتقدم ، يلتزم قادتنا بشراء السيطرة المجتمعية التجارية الجاهزة.

أريد التأكيد على أن هذا لا يدين تكامل البيانات أو تحليلات الرسم البياني أو التعلم الآلي. هذه أدوات قيمة في مجموعة يجب أن تشمل أيضًا العلوم الاجتماعية ومشاركة أصحاب المصلحة. لكن السياق الذي يتم فيه نشر هذه الأدوات يحدد الاعتماد على المسار. الخيال الذي يدفع شراء هذه الأدوات وغرضها يستحق التدقيق الدقيق. إن نماذج الأعمال التي يدعمونها ، والقيم المضمنة التي يشفرونها ، ودرجة التركيز التي تركز عليها الشخص ، والطريقة التي ينقلون بها بمهارة المسؤولية بين أصحاب المصلحة ، واللامساواة الهيكلية التي يهددون بحبسها - تهمهم بعمق. والسياق الحالي الذي يتم فيه بيع أدوات التشغيل الآلي ونشرها معيب للغاية.

الالتزام بمشاركة المجتمع ، ومنهجيات التصميم المتمحورة حول الشخص ونُهج التنفيذ ، والمراجعة الأخلاقية الصارمة والمستمرة ، والإدماج الافتراضي للعلماء الاجتماعيين والفنانين في عمليات التنمية ، ومراجعة الخوارزميات ، والمناقشة الصريحة والشاملة حول القيم التي يتم دمجها في الأدوات (خاصة الناضجة) لإعادة النظر: يمكن أن تقطع الاتفاقات الاجتماعية غير المعلنة بين المواطنين وآليات الحوكمة التجارية / القانونية شوطًا طويلاً نحو ضمان عدم استطاعة الأتمتة الاستبداد ، ولكن ليس إذا بقينا نائمين على عجلة قيادة هذه السيارة ذاتية القيادة.

هناك شيء فاسد في قلب الحلم ، ونحن بحاجة ماسة إلى الاستيقاظ - قبل أن نتمكّن الوعود المكسورة من ماضينا في نسيج مستقبلنا ذاته.