خودکش اور فیس بک ای اے

جب ایک شخص خودکش حملہ کرتا ہے تو، ان کی زندگی میں وہ اکثر حیران ہوتے ہیں کہ وہ اس سے بچنے کے لئے کیا کرسکتے ہیں.

سماجی میڈیا کے صارفین کو بھی اس شخص کی طرف سے شائع کردہ پریشان کچھ دیکھنا افسوس ہے، لیکن اس کے بارے میں کچھ نہیں کر رہا ہے.

اشتہار ایڈورٹائزمنٹ

فاسٹ کی مدد کرنے کی کوشش میں، فیس بک نے اعلان کیا ہے کہ یہ مصنوعی انٹیلی جنس (اےآئ) ٹولز کے استعمال کو توسیع دیتا ہے جب کسی کو سوشل میڈیا کی ویب سائٹ پر خودکش یا خود کی چوٹ کے بارے میں خیالات کا اظہار کرنا ہے.

اس ماہ سے پہلے، فیس بک نے صرف ریاستہائے متحدہ کے بعض صارفین پر آلات استعمال کیا. اب، یہ سب سے زیادہ سائٹ کے دو ارب صارفین کے لئے دستیاب ہے، یورپی یونین میں ان کے علاوہ، جس میں سخت رازداری اور انٹرنیٹ کے قوانین ہیں.

فیس بک کے سربراہ ایگزیکٹو آفیسر مارک زکربرگ کا کہنا ہے کہ اس کا استعمال مثبت ترقی ہے.

اشتہار

انہوں نے حال ہی میں اپنے فیس بک ٹائم لائن پر شائع کیا کہ، "صرف گزشتہ مہینے میں، ان ای آلے نے ہم سے پہلے 100 فی صد سے زیادہ پہلے جواب دہندگان سے رابطہ قائم کرنے میں مدد کی ہے. "

یہ کس طرح آلات کرتا ہے؟

اشتہارات اشتہار

فیس بک میں گہرائی سے متعلق تفصیلات نفاذ نہیں ہے، لیکن ایسا لگتا ہے کہ اس کے ذریعہ خطوط یا ویڈیوز کے ذریعہ سکیمنگ کرکے کام کرتے ہیں اور جب ان الفاظ، ویڈیوز اور تصاویر پر اٹھایا جاتا ہے جو کسی شخص کی نشاندہی کرسکتے ہیں خودکش حملے کے لئے خطرہ

فیس بک نے پہلے سے ہی بچوں کو فحش نشریات اور دیگر قابل اعتراض مواد کو اسکین کرنے اور ہٹانے کے لئے اسی طرح کے معاملات میں AI کا استعمال کیا ہے.

ایک فیس بک کے نمائندہ ہیلتھ لائن کو بتایا کہ خودکش حملوں کے اوزار زیادہ تیزی سے مواد کا پتہ لگانے میں مدد ملتی ہے. اے اے اے کو رپورٹوں کو ترجیح دیتے ہوئے بھی مدد ملتی ہے، اس بات کا اشارہ ہے کہ کون سی معاملات زیادہ سیرائیوس ہیں.

اس کے بعد، فیس بک کی کمیونٹی آپریشنز ٹیم کے تربیتی ممبران مواد کا جائزہ لیں اور صارف کو فراہم کرنے میں مدد کی قسم کا تعین کریں.

یہ اراکین دنیا بھر کے ارد گرد کام کرتے ہیں، گھڑی کے ارد گرد، اور AI کے اوزار اور متعلقہ فیس بک کے صارفین سے دونوں رپورٹس کا جائزہ لیں.

اشتہار اشتہار

ایک طریقہ جس میں AI آلے کا پتہ چلتا ہے کہ خودکش رجحانات صارفین کے سوالات جیسے فوری طور پر سوالات کی طرف اشارہ کرتے ہیں، "کیا آپ ٹھیک ہیں؟ " "کیا میں مدد کر سکتا ہوں؟ "اور" کیا آپ کی مدد کی ضرورت ہے؟ "

فیس بک کی کمیونٹی آپریشنز ٹیم کو مشکوک یا پریشان ہونے کے بارے میں اطلاع دی گئی مواد کا جائزہ لینے کے لئے فرض کیا جاتا ہے.

مئی میں، فیس بک نے اعلان کیا کہ یہ آپریشنز ٹیم میں 3، 000 مزید کارکنوں کو شامل کریں گے، جس میں 4، 500 ملازمین تھے.

اشتہار

ٹیکنالوجی کے مطابق، مواد کے بارے میں مواد اور ویڈیوز کا پتہ لگانے میں مدد ملتی ہے کہ دوستوں یا فیملی کے ممبروں کے مقابلے میں لوگ اکثر فیس بک پر پوسٹ کرتے ہیں.

جب یہ پتہ چلا جاتا ہے تو، فیس بک کے صارف کو میسنجر کے ذریعہ بحران سپورٹ تنظیموں سے فیس بک لائیو چیٹ سپورٹ کے ساتھ رابطے میں رکھا جاتا ہے، اور حقیقی وقت میں بات چیت کرنے میں.

اشتہار اشتہار> بورڈ پر خودکش آگاہی کے وکلاء

خودکش روک تھام کے لئے ای اے بنانے میں، فیس بک ذہنی صحت تنظیموں کے ساتھ کام کرتا ہے، بشمول محفوظ. این جی، نیشنل سوسائٹی روک تھام لائف لائن "1-800-273-ٹال (8255)"، اور فارف فرنٹ خودکش روک تھام.

محفوظ کرنے کے ایگزیکٹو ڈائریکٹر ڈینیل جے ریڈینبرگ، پیسیڈی. org، کہتے ہیں کہ وہ خوشگوار ہے کہ فیس بک خود کار طریقے سے خود کار طریقے سے روک تھام کی کوششوں کو آگے بڑھانے کے طریقوں میں آگے بڑھنے میں مدد کر رہا ہے جو اس سے پہلے نہیں کیا گیا ہے.

"اگر ہم پچھلے 50 یا 60 سال کو دیکھتے ہیں - چاہے آپ خودکش اور دماغی صحت کے لئے دوا یا علاج میں پیش رفت کے بارے میں بات کر رہے ہو - ہم نے ان چیزوں کی وجہ سے کمی کو نہیں دیکھا یا خودکش ڈراپ دیکھا ہے. شاید شاید ٹیکنالوجی اس کی مدد کر سکتی ہے، یہ سب سے بہترین موقع ہے جو ہمارے پاس زندگی کو بچانے کی کوشش کرنے کے لئے ابھی ہے، "ریڈینبرگ نے ہیلتھ لائن کو بتایا.

اشتہار

جبچہ وہ نوٹ کرتا ہے کہ اے اے کے آلے کو مکمل طور پر ڈیزائن نہیں کیا جا سکتا اور جو لوگ خطرے سے نمٹنے کے قابل ہیں وہ ان کی غلط تشویش پیش کرسکتے ہیں، وہ کہتے ہیں کہ خودکش حملوں کے لئے یہ انتہائی مداخلت ہے جو اس کو سمجھنے کا وقت لگ سکتا ہے. تاثیر.

"اے آئی کے ساتھ آنے سے پہلے، ایسے لوگوں سے غلط مثبت تھے جنہوں نے فیس بک پر چیزوں کی اطلاع دی تھی جس نے سوچا کہ کسی دوست کو خودکش ہوسکتی ہے. اے آئی اے نے صرف ان لوگوں کو جھوٹے مثبتوں کو ختم کرنے میں مدد دینے کے عمل کو تیز کر دیا ہے اور واقعی وہ جو واقعی خطرے میں ہیں وہ اٹھاؤ. "ریڈینبرگ نے کہا.

اشتہار اشتہار · انہوں نے مزید کہا کہ لوگ سماجی میڈیا پر خودکش حملوں کی نشاندہی کرتے ہیں، اور یہ نہایت اچھی یا خراب چیز ہے.

"سماجی میڈیا یہ ہے کہ آج جہاں لوگ اپنی زندگی آجائیں گے. سال پہلے، وہ اسے پارک میں یا یادگار میں رہتے تھے یا ایک دوسرے کو نوٹ لکھے، شاید فون پر شریک ہوئیں. جیسا کہ زیادہ سے زیادہ لوگ ان کی زندگی سماجی میڈیا پر رہتے ہیں، وہ خوشی کے لمحات اور چیلنجوں کا سامنا کرتے ہیں جو ان کا سامنا کرتے ہیں. "

انہوں نے مزید کہا کہ تبدیلی، لوگوں کو سینکڑوں تک پہنچنے اور سینکڑوں لوگوں کو ایک وقت میں پہنچانے کی اجازت دیتا ہے.

ریڈینبربر کا کہنا ہے کہ اگر آپ کسی ایسے سوشل میڈیا پر نظر آتے ہیں جو متاثر ہوسکتے ہیں یا خود کو نقصان پہنچے ہیں، تو وہ پیغام، ٹیکسٹ یا فون کال کے ساتھ ان تک پہنچ جاتے ہیں اگر آپ قریبی دوست ہیں. فیس بک نے پہلے سے گفتگو کرنے شروع کرنے کے لئے پہلے سے آباد شدہ نصوص پیش کرتے ہیں.

اگر آپ اس نقطہ نظر کے ساتھ آرام دہ محسوس نہیں کرتے، ریڈینبربر نے فیس بک پر رپورٹنگ کی تقریب کا استعمال کیا ہے.

"یہ کرنے کے لئے ایک آسان اور فوری بات ہے. ٹیکنالوجی یہ اکیلے نہیں کر سکتا. ہمیں لوگوں کو شامل ہونے کی ضرورت ہے. کچھ نہیں کر رہا سب سے زیادہ ممکنہ چیز جو ہو سکتا ہے، "انہوں نے کہا.

رازداری کے مسائل کے بارے میں کیا خیال ہے؟

اچھی نیت کے علاوہ، یہ رازداری کے حملے پر غور نہیں کرنا مشکل ہے.

موڈ قانون میں ایک رازداری کے وکیل اور پرنسپل چارلس لی موڈ جونیئر کہتے ہیں کہ مطلوبہ الفاظ کے لئے فیس بک سکیننگ کسی رازداری کی خلاف ورزی نہیں کی جا سکتی ہے اگر یہ وقت سے پہلے ظاہر ہو چکا ہے.

"فیس بک تک جب تک یہ مواد کا جائزہ لیتا ہے، مجھے کوئی حقیقی رازداری کی خدشات نہیں ملتی ہے،" موڈ نے ہیلتھ لائن کو بتایا. "ایک کو یہ سمجھنا چاہئے کہ کسی بھی انٹرنیٹ پر کہیں بھی شائع ہوتا ہے، بشمول ای میل - نجی یا نہیں - یا سوشل میڈیا کے ذریعہ، اس میں غیر منظم شدہ وصول کنندگان کو اپنا راستہ مل سکتا ہے.کم سے کم اگر فیس بک ہمیں اس سے پتہ چلتا ہے کہ ہمارے پاس روبوٹ ایسے ہیں جو ہمارے میل پڑھتے ہیں یا کم از کم مطلوبہ الفاظ یا جملے کے لئے اسکین کرتے ہیں تو ہم اپنے رویے کو ایڈجسٹ کر سکتے ہیں. "

جبکہ قانونی طور پر فیس بک واضح ہوسکتا ہے، چاہے وہ اخلاقی طور پر کام کر رہا ہے بحث کے لئے.

آپ پاؤر کے شریک بانی کیفھ مالانی، ایک کمپنی ہے جو لوگوں کو اپنی ڈیجیٹل موجودگی سے پیسہ کمانے میں مدد ملتی ہے، اس کا کہنا ہے کہ فیس بک کے ارادے سے کوئی تعلق نہیں ہے، ہر فرد کو اپنے ذاتی اعداد و شمار کا استعمال کیسے کیا جاسکتا ہے.

"یا پھر یہ فیس بک کے طور پر پلیٹ فارمز میں حصہ لینے والے ذاتی معلومات کے 'برا' بمقابلہ 'اچھا' سمجھا جاتا ہے پر ایک پرچی ڈھال ہے. اس کے علاوہ، ارادے کافی نہیں ہیں، کیونکہ اعداد و شمار کے تعاقب کے نتیجے میں غلط تاریخی رابطے کے تجزیہ سے بھی غلط یا نقصان دہ دعوی کا نتیجہ ہو سکتا ہے. "

انہوں نے مزید کہا کہ AI صرف اعداد و شمار کے طور پر ان اعداد و شمار کے طور پر حاصل کرنے کے طور پر اچھا ہے.

"انفرادی پلیٹ فارم جیسے فیس بک جیسے فرض کرنے کی کوشش کررہے ہیں وہ آپ کو اچھی طرح سے اچھی طرح سے جاننے کے لۓ آپ کو اچھی طرح جانتے ہیں. اس معاملے کے لئے فیس بک، یا کسی دیگر ذرائع ابلاغ کی دکان، صرف ہماری زندگی کا ایک چھوٹا حصہ ہے، اور اکثر اس تصویر کو پینٹ کا انتخاب کرتا ہے جسے ہم نے اشتراک کرنے کا انتخاب کیا ہے، لہذا اس محدود اور ممکنہ طور پر باضابطہ اعداد و شمار کے ذریعہ نتیجہ اخذ انتہائی احتیاط سے کیا جانا چاہئے. انہوں نے کہا.

پھر بھی، ریڈینبرگ کا کہنا ہے کہ لوگوں کو اے آر کا استعمال کرتے ہوئے فیس بک سے خوفزدہ نہیں ہونا چاہئے.

"یہ فیس بک نہیں ہے لوگوں کو پہلو یا لوگوں کے کاروبار میں حاصل،" انہوں نے کہا. انہوں نے کہا کہ "یہ ٹیکنالوجی اور لوگوں کا استعمال کر رہا ہے جو لوگوں کی جانوں کو بچانے کی کوشش کرتی ہے." "مجھ پر اعتماد کرو، اگر آپ کو بحران میں ایک پیار ہے تو، آپ ان کے لئے سب کچھ کرنا چاہتے ہیں، چاہے آپ ہنگامی کمرہ یا آن لائن ہو. "

حقیقت میں، وہ امید کرتا ہے کہ مزید ٹیکنالوجی بحران میں لوگوں کے ساتھ مداخلت کرسکتی ہے.

"جب کوئی بحران میں ہے تو، اختیارات اور متبادل ان سے نکل جاتے ہیں. انہوں نے اس لمحے میں کیا ہو رہا ہے پر بہت توجہ مرکوز کیا اور ان کے ذریعے حاصل کرنے کے لئے ان کے پاس اوزار نہیں ہیں، "انہوں نے کہا.

کسی بھی قسم کی ٹیکنالوجی لوگوں کو زیادہ اختیارات دینے میں مدد کرسکتی ہے، ریڈینبربر کا کہنا ہے کہ کم از کم وہ بحران میں ہوں گے. ڈپریشن کا کہنا ہے کہ، وہ خطرے سے بھی خطرے سے پہلے لوگوں کو خطرے سے آگاہ کرنے کے لئے ٹیکنالوجی کو مزید طریقے پیدا کرنے کے لۓ دیکھنا چاہتے ہیں.

مثال کے طور پر، وہ کہتے ہیں کہ اگر ہم جانتے ہیں کہ ہم زیادہ پریشان ہو جاتے ہیں کہ ہم کم بات کرتے ہیں تو زیادہ سے زیادہ الگ ہوجاتے ہیں، زیادہ سے زیادہ پیچھے نکلتے ہیں، کم توانائی رکھتے ہیں اور مختلف باتیں کرتے ہیں اور لکھتے ہیں، تو ان تبدیلیوں کو محسوس کرنے کے لئے پروگرامنگ ٹیکنالوجی فائدہ مند ہوسکتا ہے.

"آتے ہیں کہ آپ فیس بک پر باقاعدہ پوسٹر ہیں، لیکن پھر آپ زندگی میں زیادہ اداس ہو رہے ہیں اور آپ کی سرگرمی آہستہ آہستہ گر رہی ہے. اس کے بعد آپ کسی بھی اداس کی اداس یا باہر ادھر دن کے انسجامامام پر تصاویر پوسٹ کرنا شروع کرتے ہیں. اگر ہم آپ کے رویہ آن لائن پر مبنی آپ کی زندگی میں کیا ہو رہا ہے پر ٹیکنالوجی لینے کے لئے حاصل کر سکتے ہیں، ہم آپ کو وسائل یا مدد کی چیزوں کو شروع کر سکتے ہیں، اور شاید ہم اس کے ارد گرد تبدیل کر سکتے ہیں. "

زکربرگ نے اپنی پوسٹ میں اسی جذبے کا اشتراک کیا، مستقبل میں دوسرے منصوبوں میں اے آئی کو استعمال کرنے کے منصوبوں کو اکٹھا کرنا.

"ہم اس کو مزید بہتر بنانے کے لئے بہت زیادہ ہیں،" انہوں نے لکھا. "مستقبل میں، اے ای زبان کے ٹھیک ٹھیک نونوں کو سمجھنے میں کامیاب ہوسکتی ہے، اور اپنے آپ کو خودکش حملوں سے بھی زیادہ مختلف مسائل کی شناخت کرنے میں کامیاب ہوسکتی ہے، بشمول جلدی سے زیادہ قسم کی بدمعاش اور نفرت سے نمٹنے کے لۓ. "