من جهة أخرى، قد تصبح الذاكرة التي يحتفظ بها الذكاء الاصطناعي سجلا رقميا متراكما لا يضم ما شاركه المستخدم صراحة، بل أيضا الأنماط والاستنتاجات التي كونها النظام عنه مع مرور الوقت. وهو ما يطرح تساؤلات عما إذا كان ينبغي النظر إلى طبيعة هذه الذاكرة باعتبارها جزءا من الهوية الرقمية للفرد، أم أنها تظل أصلا تقنيا مملوكا للشركة التي طورت النظام.

وترى واتسون أن التعامل الحالي مع ذاكرة المساعدات الذكية يمنح الشركات سيطرة أكبر مما ينبغي على سجل معرفي يتشكل من تفاعل المستخدم مع النظام. فهذه الذاكرة، التي قد تشمل عادات الشخص واهتماماته ونقاط ضعفه وأنماط تفكيره، تشبه في رأيها "يوميات كتبت عن الشخص بالمشاركة" أكثر مما تشبه مجرد بيانات مخزنة على خادم.

وتقول إن حذف سجل المحادثات مع الإبقاء على الملف الشخصي والاستنتاجات التي أنشأها النظام "ليس سوى مظهر شكلي للخصوصية، وليس خصوصية حقيقية". فالمستخدم، بحسب رأيها، لا ينبغي أن يملك فقط حق حذف البيانات التي قدمها، بل يجب أن يتمكن أيضا من معرفة الصورة التي يحتفظ بها النظام عنه، والطعن في الاستنتاجات الخاطئة أو غير المرغوب فيها، والمطالبة بإزالتها.

وتضيف أن القواعد الحالية، ومنها اللائحة العامة لحماية البيانات الأوروبية (GDPR)، تلمح إلى بعض هذه الحقوق، لكنها وضعت أساسا للتعامل مع بيانات محددة يمكن الوصول إليها أو حذفها، وليس مع أنظمة تتعلم باستمرار وتعيد بناء صورة متغيرة عن المستخدم.

لذلك تدعو إلى منح الأفراد سيطرة أكبر على ما تسميه "الذات المستنتجة"، بحيث تصبح الذاكرة قابلة للفحص والنقل والإدارة من قبل أصحابها، في حين يكون دور الشركات أقرب إلى الأمناء عليها لا مالكيها.

وتلخص واتسون هذا التحول في مبدأ ترى أنه سيكون حاسما في مستقبل مساعدات الذكاء الاصطناعي، وتقول "ينبغي أن تكون الذاكرة محفوظة من أجل المستخدم، ومفهومة بالنسبة إليه، لا مجرد ذاكرة عنه".

ومن جانبها، ترى زينوتدينوفا أن القضية تتجاوز في النهاية حدود تصميم المساعدات إلى تحول أوسع في علاقة الإنسان بالخوارزميات، وهو ما يسميه بعض الباحثين "الألغوريسين" (Algoricene)، حيث أصبحت البيانات والخوارزميات والذكاء الاصطناعي قوى مؤثرة في تشكيل المجتمعات وتوزيع النفوذ.

وفي ظل ذلك، ترى أن وضع حدود لنفوذ شركات التكنولوجيا الكبرى لم يعد ترفا تنظيميا، بل ضرورة لحماية الإنسان من أن تتحول البيانات التي تنتج عنه إلى سلطة تعرفه وتقرر عنه.

لكن ربما تكمن المعضلة الأكبر في سؤال يتجاوز الخصوصية والحوكمة. فإذا أصبحت الاستنتاجات التي تبنيها الخوارزميات عنا جزءا من هويتنا الرقمية، فماذا يبقى من حق الإنسان في أن يكون أكثر من مجموع بياناته؟

فالإنسان لا يتشكل مرة واحدة، بل يتغير مع تجاربه وبيئته وعلاقاته وأخطائه، وبالقرارات التي لم يتخذها بعد. فهل نسمح للنسخة التي تبنيها الآلة عنا من ماضينا بأن تسبقنا إلى المستقبل، وتختزل إنسانا متغيرا باستمرار في ملف من الاستنتاجات؟