ঢাকা ০৪:৫৮ পূর্বাহ্ন, সোমবার, ২৩ ডিসেম্বর ২০২৪, ৮ পৌষ ১৪৩১ বঙ্গাব্দ

রোবটের সাথে মানুষের হবে মহাযুদ্ধ-আর্টিফিশিয়াল ইন্টেলিজেন্স

  • Raihan Uddin Ahmed
  • আপডেট সময় ০৫:৩২:১৮ পূর্বাহ্ন, রবিবার, ২৪ নভেম্বর ২০২৪
  • ৩৩ বার পড়া হয়েছে

Artificial Intelligence এখন পর্যন্ত সবচেয়ে বড় আবিষ্কার। যেটা আমাদের মানুষ দ্বারা করা হয়েছে। এটি Computer Softwar, যেটা আমাদের মানুষদের মতই চিন্তা-ভাবনা করে থাকে। এই Artificial Intelligence-কে ৩ ভাগে ভাগ করা হয়েছে-

1. Weak AI;
2. Strong AI; সব শেষে
3. Artificial Super Intelligence

যেটাকে আমরা Singularity – ও বলে থাকি। এখন পর্যন্ত আমরা যতগুলো AI System কে Operate করে আসছি, এই সব Weak AI । যেমন হলো- Shofia. যাকে সৌদি আরবের Citizen-ও দেয়া হয়েছে। একবার ভাবনুতো একটি রোবট কি পরিমাণ বুদ্ধিমত্তার অধিকারী হলে কোন একটি দেশের Citizen পাওয়ার যোগ্যতা অর্জন করতে পারে?

দিনের পর দিন আমরা AI System- কে অনেক বেশি Develop করতে সফল হয়ে যাবো। তখন এই AI একদম আমাদের মানুষের মত ভাবতে শুরু করে দিবে। তখন এটিকে Strong AI বলা যাবে। আর এরপর এই Artificial Intelligence আমাদের মানুষদের থেকে কমপক্ষে ১ পারসেন্ট (১%) বেশি চিন্তা করতে সফল হয়ে যাবে। তখন আসবে Singularity. মানে Artificial Super Intelligence. যেটা ঐ সময়ের সবচেয়ে বড় Invention হিসেবে প্রমাণিত হতে পারে। আর May be এই মহাবিশ্বের সর্বশেষ।

এখন মনে হয়, আপনাদের মনে দুইটি প্রশ্ন আসছে আসলে Singularity আসার পর, Human Civilization-এর সমাপ্ত কি একদম নিশ্চিত। নাকি Singularity আমাদের জন্য, মানে সৃষ্টিকর্তা আমাদের জন্য সবচেয়ে মূল্যবান উপহার প্রমাণিত হবে।

সাল ২০১৪ তে, তাইবেক নামের একটি Store-এ Artificial Intelligence- এর প্রয়োগে একটি Prediction করা হয় যে, তাদের Shop-এ পণ্য ক্রয় করা এক মেয়ে Pregnant ছিল। এই কথা ঐ মেয়ের Family Member-রাও জানতো না। এমনকি ঐ মেয়েটিও Sure ছিল না। শুধু ঐ মেয়েটির ক্রয় করার প্রক্রিয়াতে Minor কিছু Change-এর কারণে, ঐ AI এটিকে Predict করে ফেলে। যেটা আসলেই অনেক আশ্চর্যজনক ছিল। সাল ২০১৭ তে, Facebook-এর ইঞ্জিনিয়ারস, New Highly Intelligence Chat Bot-এর উপর কাজ করছিলেন। এই Program কে Facebook মানুষের সাথে কথা বলার জন্য

Research করা হচ্ছিল। তাদের মধ্যে একজন Facebook ইঞ্জিনিয়ার-এর মাথায় এই Idea আসে, দুইটি Chat Bot-এর মধ্যে Chat করানো হোক। আর যখন তিনি ঐ দুইটি Chat Bot -এর মধ্যে কথা বলায়, তখন কিছু এমন হলো, যেটা দেখে Facebook ইঞ্জিনিয়ারও অবাক হয়ে গিয়েছিল। এই দুইটি Chat Bot, একজন আরেকজনের সাথে কথা বলার জন্য কিছু খধহমঁধমব ওহাবহঃ করে ফেলে। যেটা আমাদের মানুষ থেকে আলাদা ছিল।

Bob Ges Alice নামের এই দুইটি Chat Bot, ঠিক এমনটা কথা বলছিল Bob: I can i i Everything else. Alice: Balls have zero to me to me to me to me to me to
me to me to me to.
Bob: You i everything else. Alice: Balls have zero to me to me to me to me to me to me to me to me.

এই দুইটি Chat Bot, কি ব্যাপারে কথা বলছিলো। এটি Facebook-এর ইঞ্জিনিয়ারেরও জানা ছিল না। কিন্তু একটি কথা তো নিশ্চিত ছিল, এই দুইটি Chat Bot, পরস্পরের সাথে কথা বলার জন্য- কিছু Secret Code- কে Invent করে ফেলে। পরে Facebook- এর মাধ্যমে, এই Program বন্ধ করে দেয়া হয়। কারণ, Facebook-Gi Report অনুসারে, এই Program Failure প্রমাণিত হয়েছিল। কিন্তু আমাদের Artificial Intelligence-দের Day By Day আরও উন্নত করছে। আমাদের Computing Power, আরও বেশি Advanced হচ্ছে। খুব দ্রুত আমরা AI-এর খোঁজে Extreme Level-এ পৌঁছে যাবো। কি হবে তখন, যখন এই Artificial Intelligence, সম্পূর্ণভাবে Develop হয়ে যাবে। আসলে কি AI দুনিয়াকে নিজ দখলে করে নিবে।

Artificial Intelligence-এর মত Computer Program-এর চিন্তা করার ক্ষমতা, May be আমাদের থেকেও উন্নত হয়ে যাবে। এটি যে Future-এ হতে যাচ্ছে, তা কোন চিন্তা অথবা কল্পনা নয়। এমনকি এটি আমাদের বর্তমান। এমনকি এখনি হচ্ছে। আমাদের মধ্যে অনেক মানুষ জানেন যে, গত বছরে-AI System কত দ্রুত এগিয়ে যাচ্ছে। আর এটি এগিয়ে যাওয়া, লাগাতার Improvement-ও হচ্ছে।

আপনি Realize-ও করতে পারবেন না, কিন্তু আমরা সবাই Artificial Intelligence- কে দিনের পর দিন Use করে আসছি। Example হিসেবেঃ যেমন ধরুন- Google Assistant, Virtual Assistant, CD এবং Alexa। এমনকি কিছু বড় বড় কোম্পানিরাও AI- এর ব্যবহার করছে। যেটা আপনাদের Daily Life- কে প্রভাবিত করে। আর আপনি বুঝতে পারেন না। যেমনটা যখন আপনি Youtube Open করেন, তো তখন সেটি আপনার পছন্দ অনুসারে, Youtube আপনাকে Video Suggest করে থাকে। যেটা থেকে আপনি কখনও Bore Feel করেন না। আর ঘন্টার পর ঘন্টা, আপনি কোনরকম Bore Feel না করে, ভিডিও দেখতে থাকেন।

কিন্তু এটির পিছনে, একটি Highly Complex Computer Algorithm কাজ করে থাকে। আর এই Algo- rithm নিজেই সময়ের সাথে নতুন কিছু শিখার ক্ষমতা রাখে। যেটাকে বলা হয়ে থাকে Machine Landing. আর Amazon এর মত বড় বড় E-Commerce Sites, এই মেশিন Algorithm-এর বছরের পর বছর ব্যবহার করে আসছে। আপনি যখন Amazon Open করেন। তো তখন আপনার পছন্দের জিনিস, আপনার চোখের সামনে এসে পরে। যেটা আপনি কিনতে চাচ্ছেন।

Moore’s law-তে বলা হয়েছিল, In Future CPU-তে প্রতি বছরে Transistor-এর সংখ্যা দুই গুণ গতিতে বেড়েই যাচ্ছে। আর আসলেই প্রতি বছর, এমনটা হয়ে আসছে। Gordon Moore, এই Theory 1971-B First CPU Invent–এর সময় করেছিলেন। আমরা Technology-এর Field-এ, অনেক দ্রুত গতিতে Grow করছি। হ্যাঁ এটি সত্যি যে, আমাদের কাছে এখন Present-এ Advanced level-এর Robot অথবা Super Computer AI System নেই। কিন্তু যত দ্রুত আমরা Grow করছি। সামনে আসা আনুমানিক ৫০ বছরে, আমরা Super Computer AI System-এ Develop করে ফেলবো। অনেক Scientist-রা বলে থাকেন যে, Artificial Intelligence সামনে আসা সময়ের জন্য, সবচেয়ে ভয়ানক Invention প্রমাণিত হবে। আর এটি আমাদের অস্তিত্বের সবচেয়ে বড় বিপদ। আর এই শতাব্দীর সবচেয়ে বড় Scientist, Stephen Hawking-ও Artifficial Intelligence- কে নিয়ে দুনিয়া জুড়ে সকল বিজ্ঞানীদের সংকেত দিয়ে গেছেন। আর Elon Musk-ও Recently তার একটি Interview তে বলেন, Artificial Intelligence – কে বানিয়ে আমরা শয়তান-কে দাওয়াত দিচ্ছি। দুনিয়া জুড়ে অনেক মানুষ যারা Artificial Intelligence-এর Power কে বুঝতে পারে।

তারা বলেন যে, এই সন্ধান আমাদের মানুষদের জন্য চূড়ান্ত খোঁজ প্রমাণিত হতে পারে। এর কারণ হলো, যখন এই Artificial Intelligence, আমাদের মানুষদের নিয়ন্ত্রণের বাইরে চলে যাবে, তখন AI System-এর উপর আমাদের কোন Control-B-ই থাকবে না। আর মানুষের বিরুদ্ধে AI-এর সাথে তখন একটি- মহাযুদ্ধ। যেটা আমরা কখনই জিততে পারবো না।

কারণ, তখন AI System মানুষ থেকে কয়েক লাখ গুণ বেশি Intelligent হয়ে যাবে। আর আমরা যেমনটাই চেষ্টা করি, AI System-কে বিনাশ করার প্রত্যেকটি Plan ব্যর্থ প্রমাণিত হবে। কারণ, আমাদের এক একটি Plan, তারা আগে থেকেই জেনে যাবে। আপনারা সবাই জানেন, দলবাঁধা পিঁপড়ার সাথে আমরা মানুষ কি করে থাকি। আপনি কি জানেন?? এই পিঁপড়া গুলোর মধ্যে আর আমাদের মধ্যে কি পার্থক্য?? আমাদের মানুষদের কাছে একটি Complex Brain আছে। যেটা এই পিঁপড়া গুলোর মধ্যে নেই। তারা শুধু দেখতে পারবে, মানুষের তৈরি করা এই Building গুলোকে। কিন্তু কখনও বুঝতে পারবে না, এই Building গুলোর ব্যবহার কীভাবে করে। তাদের জানা নেই যে, আমাদের Universe-এ কতগুলো Planet আর তারা রয়েছে। তাদের তো এটাও জানা নেই, আমাদের পৃথিবী একটি সূর্যের চারদিকে ঘুরছে।

যখন এই সকল Information আর চিন্তা করার ক্ষমতা, AI System-এর কাছে হবে, তখনই এই পিঁপড়া গুলোর মতই আমাদেরও পিষে ফেলা হবে। যেই কাজ আমাদের মানুষদের করতে ১০ বছর লেগে গিয়েছিল। সেই একই কাজ Artificial Intelligence-দের করতে শুধুমাত্র ১০ মিনিট লাগবে। আমরা চিন্তা করি যে, আমরা বাকি পশুপাখীদের তুলনায়, অনেক অনেক বেশি বুদ্ধিমান। আর আমরা এই দুনিয়ার Supreme Intelligence কিন্তু Reality-তে আমরা মানুষেরা এই পশুপাখীদের মধ্যে কিছু Fact গুলোতে বেশি Intelligence আর এই ছোট একটি Deference-এর কারণে, আমরা Technology-তে এতো বেশি আগাতে পেরেছি। যদি আমরা সকল Animals-দের Intelligence-কে ১ থেকে এক হাজার Scale-এর দিকে নজর দেই। তাহলে নাম্বার ওয়ানে আসে এই Rats। আর নাম্বার Four-এ আসবে এই Chimpanzee। আর নাম্বার Eight-এ এই Dolphin। আর পরে সবশেষে, পৃথিবীর সবচেয়ে বুদ্ধিমান জীব মানে আমরা মানুষ, যা নাম্বার দশে হবে।

আর এটিই একটি Super Intelligence AI, খুব সহজে হাজার হাজার Times আগে করে ফেলবে। যা আমাদের মানুষ থেকে অনেক গুণ বেশি। আমাদের মানুষের কাছে, একটি Complex Brain রয়েছে, যেটাতে লাখ লাখ কোটি কোটি Neurons রয়েছে। কিন্তু মানুষের চিন্তা করার ক্ষমতাতেও Limit থাকবে না। আসলে আমাদের Computer Power, এখনো এতো Fast হয়নি।

কিন্তু আমি আপনাদের প্রথমেই বলে দিয়েছি, আমাদের Computing Power, দিনের পর দিন এতো দ্রুত Grow করছে। ঐ দিন আসতে আর দেরি নেই, যখন Computer Processor, আজ থেকে হাজার গুণ বেশি গতি সম্পন্ন হয়ে যাবে। আর Artificial Intelligence, তখন এতো Computing Processor Power প্রয়োগ করার সামর্থ্য হয়ে যাবে, যত সে চাইবে। আর আমরা জানিই যে, Software-এর Processing Speed, কত বেশি। যেটার কারণে, এই Artificial Intelligence-দের জন্য কোন চূড়ান্ত সীমানা থাকবে না। এটি দিনের পর দিন আরও শক্তিশালী হতে থাকবে। আর সে তার নিজ শক্তিতে এমন এক Hardware-কে Develop করে ফেলবে। যেটা আমাদের Technology থেকে অনেক Fast এবং Powerful হবে।

আর তখনই আসবে Singularity. যেটাকে আমরা Artificial Super Intelligence বলে থাকি। মানে তখন AI System, মানব জাতি থেকে At-least One Percent (১%) বেশি Intelligent হয়ে যাবে। তখনই এই প্রশ্নটি আসে যে, Singularity আসার পর কি হবে ??? এটা কেউ জানে না। কিন্তু Singularity-এর আসা, একদম নিশ্চিত। Google-এর Chief Engineers Ray Kurzweil, ভবিষ্যৎবানী করেন যে, সাল ২০১২-এ আমরা Technology-এর Field, এতো আগে চলে যাবো যে, যেটা আমরা এক শতাব্দীতে করতে পারি নি। কিন্তু Singularity আমাদের জীবনকালেই আসবে। মানে বর্তমান প্রজন্ম এটিকে দেখতে পাবে। আর যখন এটি আসবে, তখন দুইটি প্রধান ঘটনার মধ্যে একটি হওয়া একদম নিশ্চিত। হয়তো আমাদের মানুষদের সম্পূর্ণভাবে বিনাশ করে দেয়া হবে। অথবা আমরা বর্তমানে যতটা ক্ষমতার অধিকারী আছি এরচেয়ে হাজারগুন বেশি ক্ষমতার অধিকারী হয়ে যাবো। আর আজকের সময়ে, যারা Artificial Intelligence–এর মাধ্যমে ভবিষ্যতে হওয়া বিপদকে নিয়ে ঠাট্টামি করছে। মানে যাদের মনে হয়, এই সবকিছু ফালতু আলাপ, এমনটা হওয়া তো একদমই অসম্ভব। আমাদের সবারই মতো, ঐসব লোকেরাও ভবিষ্যতে জানতে পারবে যে, আসলে এই AI Artificial Intelligent- আমাদের মানুষদের জন্য জীবনের সহযোগী শক্তি হবে ? নাকি বিপদের কারণ হবে ?। অপেক্ষা হচ্ছে শুধু সামনে আসা সময়ের।

Artificial Intelligence (AI) & Future World: ২০৫০ সাল! পৃথিবীটা অনেক বদলে গেছে। সেই সাথে বদলে গেছে প্রযুক্তির অবকাঠামো গুলো।

* একজন লোক অফিস থেকে বাসায় ফিরবে। গাড়ির জন্য অপেক্ষা করছে।হঠাৎ একটা গাড়ি এসে দাঁড়াল। গাড়িতে কোন ড্রাইভার নেই, গাড়িটিতে লোকটি আগে কখনও উঠেনি। কিন্তু গাড়িটি জানে লোকটি কোথায় যাবে। কোন কিছু জিজ্ঞেস করতে হল না। স্বয়ংক্রিয় দরজা খুলে গেলো। সে উঠে চলে গেলো।

* লেভেল বাড়িয়ে দিয়ে পিসিতে দাবা খেলে জিততে পারা যে কষ্টকর হয়ে যায়। বার বার Undo Move করেও জিততে না পেরে অনেকেরই মন খারাপ হয়েছে। [Weak AI]

* অথবা অনেক আগের সাদা কালো ডিসপ্লের ফোন গুলোর গেমস্ এর বস। ভিলেনের হাতে লাইফ হারানোর কথাও ভোলার নয়। সেই ভিলেনটাই ছিল মূলত Artificial Intelligence. [Weak AI]

১৯৩৬ সালে Computer সাইন্টিস্ট Alan Turing এর আবিষ্কৃত Turing Machine পৃথিবীর বুকে বুদ্ধিমান মেশিন তৈরির অনুপ্রেরণা জাগিয়ে তোলে এবং পরবর্তীতে ১৯৫৬ সালে John McCarthy (Father of AI), Marvin Minsky, Allen Newell, এবং Herbert A. Simon বিজ্ঞানীদের অবদানে আনুষ্ঠানিকভাবে Artificial Intelligence নামে একটি নতুন শাখা তৈরি হয়।

২য় বিশ্বযুদ্ধের সময়ে নিকোলা টেসলার প্রযুক্তি নিয়ে কয়েকটি ভবিষ্যৎবানীর মধ্যে Artificial Intelligence বা কৃত্রিম বুদ্ধিমত্তাটাও অন্তর্ভুক্ত ছিল। মানুষের কাজের জায়গা গুলো একদিন কৃত্রিম বুদ্ধিমত্তাগুলো দখল করে নেবে সেটা তিনি আগেই বলে গিয়েছিলেন।

২য় বিশ্বযুদ্ধটা কোটি মানুষের মৃত্যুর কারণ হলেও এর মধ্যে একটা সত্যি ছিল, সেটা হল প্রযুক্তি গুলো নতুনভাবে পরিবর্তিত হয়েছিলো যুদ্ধের সময়ে বিভিন্ন কাজে ব্যবহারের জন্য।

পৃথিবীর প্রায় সকল ক্ষেত্রেই Artificial Intelligence টা ঢুকে পড়ছে।

আজকের Google, Facebook এর মত বড় কোম্পানিগুলো যে Artificial Intelligence (AI) এর দক্ষ ব্যবহার করছে সেটা আপনার চিন্তা ভাবনা থেকেও অনেক বাইরে। আপনার সমস্ত Personal Choice, Search, Information সংগ্রহ করে Google এর AI. সেই অনুসারে আপনাকে বিভিন্ন প্রোডাক্টের বিজ্ঞাপন দেখায়।

উদাহরণ স্বরূপ:
* Facebook এ প্রতি মিনিটে গড়ে ১৪৭,০০০ টি Picture Upload, ৩১৭,০০০ টি Status, ৪০০ নতুন Users, ৫৪,০০০ টি Share, ১ million Friend Request, ১৫০০০০ টি Message আদানপ্রদান হয়। এটা ছিল প্রতি ১ মিনিটের হিসাব। তাহলে ১ দিনের হিসাবে কি পরিমাণ ডাটার প্রয়োজন ভাবনু তো?? আর ১ বছরে সেই ডাটার পরিমাণ কেমন হতে পারে সেটা আপনার কল্পনাকেও হার মানাবে!! এছাড়াও আপনি কার সাথে সব থেকে বেশি chat করছেন, কার story বেশি seen করছেন, কে আপনার সব থেকে ক্লোজ এই সমস্ত ডাটা হিসাব করে chat লিস্টে তার নাম সব থেকে ওপরে দেখাচ্ছে!! এই সমস্ত কিছু নিয়ন্ত্রণ করছে ফেসবুকের Artificial Intelligence এত বড় সাইজের ডাটা প্রসেসিং, সংরক্ষণ করেও সেই অনুসারে আপনাকে বিজ্ঞাপন দেখিয়ে যাচ্ছে প্রায় নির্ভুল ভাবেই।

* ssss আর এখন Facebook এ নাকি বাচ্চা কোলে নিয়ে পিক দিয়ে পরের দিন ডায়াপারের বিজ্ঞাপন দেখাতে থাকে!!

Artificial Intelligence (AI) এই ডাটা গুলো মুহূর্তেই যাচাই বাছাই করছে দূরে যেতে পারবেন?? প্রযুক্তি ও AI আপনার পিছু ছাড়বে না।

যত দিন যাচ্ছে তত বেশি Google, Facebook এর AI তত বেশি শক্তিশালী হয়ে উঠছে। সেই সাথে নির্ভুল ও হচ্ছে।

এ পর্যন্ত AI এর অবস্থার ওপর ভিত্তি করে Narrow AI, General Al & Strong AI এর মধ্যে আমরা এখন পর্যন্ত General AI তে পৌঁছাতে পেরেছি। ২০৫০ এর মধ্যেই চলে আসবে Strong AI তখন হয়তো রোবট গুলো নিজেরাই অন্যান্য রোবট তৈরিতে সক্ষমতা অর্জন করবে এবং প্রত্যেকটা রোবট তাঁদের সার্ভার অথবা নিজেদের মধ্যে নিউরাল নেটওয়ার্কে কানেক্টড থাকবে এবং এত বেশি ডাটা তাদের থাকবে, যে ডাটাগুলো ব্যবহার করে তাঁরা নতুন নতুন কৌশল আয়ত্ত করতে পারবে।

তখন AI Robot গুলো মানুষের কম্যান্ডের বাইরে চলে যাবে তখন এটি Singularity স্টেজে চলে যাবে এবং ধারণা করা হয় তাঁরা মানুষের থেকে সূক্ষ্মভাবে চিন্তা করবে এবং মানুষের জন্য ভয়ের কারণ হয়ে দাঁড়াবে। ২০৫০ এ না হোক ২-৩ শতাব্দী পরে হলেও এরকম অবস্থা তৈরি হতে পারে যেভাবে Artificial Intelligence এগিয়ে যাচ্ছে। ]

বিশ্বাস করতে কষ্ট হলেও সত্য। কেননা আদিম যুগের মানুষেরা আজকের মোবাইল, Computer কল্পনা করতে পারেনি।

বিলিয়ন বিলিয়ন ডলার খরচ করে NASA, Hanson Robitics, Boston Dynamic এর মত বড় বড় রোবট নির্মাতা কোম্পানি তাঁদের রোবট গুলোকে স্বয়ংক্রিয় করতে নিরলস কাজ করে যাচ্ছে। সমান্তরাল কাজ করছে MIT, Harvard সহ অন্যান্য স্বনামধন্য বিশ্ববিদ্যালয় গুলো।

ভাবতে পারেন Atlas, Asimo এর মত নাম করা রোবটগুলা মানুষকে হত্যার কাজে ব্যবহৃত হবে?

যুদ্ধ ক্ষেত্রে এখন রাশিয়া আর আমেরিকা দুই দেশই কৃত্রিম বুদ্ধিমত্তা সম্পন্ন মরণ-অস্ত্র তৈরির প্রতিযোগিতায় লিপ্ত হচ্ছে।

এককথায় পৃথিবীর সমস্ত কিছু Artificial Intelligence এর বেড়াজালে আবদ্ধ হয়ে যাবে। পৃথিবীটা আরও বেশি আরামদায়ক সেই সাথে আরও বেশি ভীতিকর হয়ে যাবে। পৃথিবীটা আরও বেশি আরামদায়ক সেই সাথে আরও বেশি ভীতিকর হয়ে পরছে কৃত্রিম বুদ্ধি মত্তার প্রভাবে। একদিন প্রত্যেকটা পরিবারে অন্তত একটা রোবট থাকবে। সেই দিনটি কেমন হবে? আর কেমন হবে তখনকার মানুষদের lifestyle? তো আপনার কি মনে হয়, Artificial Intelligence-কে Strong AI এর মানে Singularity পর্যন্ত পৌঁছাতে আর কত সময় লাগবে। ৫০ বছর, ১০০ বছর নাকি ১০০০ বছর। অথবা মানুষের এই সভ্যতা, AI-কে Singularity পর্যন্ত পৌঁছানোর আগেই, বাঁধা দিতে সফল হয়ে যাবে।

Name: Raihan Uddin Ahmed
Institute: Ahsanullah University of Science and Technology
Dept. Electrical and Electronic Engineering
Year: 1st
Semester: 2nd
Mobile: 01611642648

আপলোডকারীর তথ্য

জনপ্রিয় সংবাদ

রোবটের সাথে মানুষের হবে মহাযুদ্ধ-আর্টিফিশিয়াল ইন্টেলিজেন্স

আপডেট সময় ০৫:৩২:১৮ পূর্বাহ্ন, রবিবার, ২৪ নভেম্বর ২০২৪

Artificial Intelligence এখন পর্যন্ত সবচেয়ে বড় আবিষ্কার। যেটা আমাদের মানুষ দ্বারা করা হয়েছে। এটি Computer Softwar, যেটা আমাদের মানুষদের মতই চিন্তা-ভাবনা করে থাকে। এই Artificial Intelligence-কে ৩ ভাগে ভাগ করা হয়েছে-

1. Weak AI;
2. Strong AI; সব শেষে
3. Artificial Super Intelligence

যেটাকে আমরা Singularity – ও বলে থাকি। এখন পর্যন্ত আমরা যতগুলো AI System কে Operate করে আসছি, এই সব Weak AI । যেমন হলো- Shofia. যাকে সৌদি আরবের Citizen-ও দেয়া হয়েছে। একবার ভাবনুতো একটি রোবট কি পরিমাণ বুদ্ধিমত্তার অধিকারী হলে কোন একটি দেশের Citizen পাওয়ার যোগ্যতা অর্জন করতে পারে?

দিনের পর দিন আমরা AI System- কে অনেক বেশি Develop করতে সফল হয়ে যাবো। তখন এই AI একদম আমাদের মানুষের মত ভাবতে শুরু করে দিবে। তখন এটিকে Strong AI বলা যাবে। আর এরপর এই Artificial Intelligence আমাদের মানুষদের থেকে কমপক্ষে ১ পারসেন্ট (১%) বেশি চিন্তা করতে সফল হয়ে যাবে। তখন আসবে Singularity. মানে Artificial Super Intelligence. যেটা ঐ সময়ের সবচেয়ে বড় Invention হিসেবে প্রমাণিত হতে পারে। আর May be এই মহাবিশ্বের সর্বশেষ।

এখন মনে হয়, আপনাদের মনে দুইটি প্রশ্ন আসছে আসলে Singularity আসার পর, Human Civilization-এর সমাপ্ত কি একদম নিশ্চিত। নাকি Singularity আমাদের জন্য, মানে সৃষ্টিকর্তা আমাদের জন্য সবচেয়ে মূল্যবান উপহার প্রমাণিত হবে।

সাল ২০১৪ তে, তাইবেক নামের একটি Store-এ Artificial Intelligence- এর প্রয়োগে একটি Prediction করা হয় যে, তাদের Shop-এ পণ্য ক্রয় করা এক মেয়ে Pregnant ছিল। এই কথা ঐ মেয়ের Family Member-রাও জানতো না। এমনকি ঐ মেয়েটিও Sure ছিল না। শুধু ঐ মেয়েটির ক্রয় করার প্রক্রিয়াতে Minor কিছু Change-এর কারণে, ঐ AI এটিকে Predict করে ফেলে। যেটা আসলেই অনেক আশ্চর্যজনক ছিল। সাল ২০১৭ তে, Facebook-এর ইঞ্জিনিয়ারস, New Highly Intelligence Chat Bot-এর উপর কাজ করছিলেন। এই Program কে Facebook মানুষের সাথে কথা বলার জন্য

Research করা হচ্ছিল। তাদের মধ্যে একজন Facebook ইঞ্জিনিয়ার-এর মাথায় এই Idea আসে, দুইটি Chat Bot-এর মধ্যে Chat করানো হোক। আর যখন তিনি ঐ দুইটি Chat Bot -এর মধ্যে কথা বলায়, তখন কিছু এমন হলো, যেটা দেখে Facebook ইঞ্জিনিয়ারও অবাক হয়ে গিয়েছিল। এই দুইটি Chat Bot, একজন আরেকজনের সাথে কথা বলার জন্য কিছু খধহমঁধমব ওহাবহঃ করে ফেলে। যেটা আমাদের মানুষ থেকে আলাদা ছিল।

Bob Ges Alice নামের এই দুইটি Chat Bot, ঠিক এমনটা কথা বলছিল Bob: I can i i Everything else. Alice: Balls have zero to me to me to me to me to me to
me to me to me to.
Bob: You i everything else. Alice: Balls have zero to me to me to me to me to me to me to me to me.

এই দুইটি Chat Bot, কি ব্যাপারে কথা বলছিলো। এটি Facebook-এর ইঞ্জিনিয়ারেরও জানা ছিল না। কিন্তু একটি কথা তো নিশ্চিত ছিল, এই দুইটি Chat Bot, পরস্পরের সাথে কথা বলার জন্য- কিছু Secret Code- কে Invent করে ফেলে। পরে Facebook- এর মাধ্যমে, এই Program বন্ধ করে দেয়া হয়। কারণ, Facebook-Gi Report অনুসারে, এই Program Failure প্রমাণিত হয়েছিল। কিন্তু আমাদের Artificial Intelligence-দের Day By Day আরও উন্নত করছে। আমাদের Computing Power, আরও বেশি Advanced হচ্ছে। খুব দ্রুত আমরা AI-এর খোঁজে Extreme Level-এ পৌঁছে যাবো। কি হবে তখন, যখন এই Artificial Intelligence, সম্পূর্ণভাবে Develop হয়ে যাবে। আসলে কি AI দুনিয়াকে নিজ দখলে করে নিবে।

Artificial Intelligence-এর মত Computer Program-এর চিন্তা করার ক্ষমতা, May be আমাদের থেকেও উন্নত হয়ে যাবে। এটি যে Future-এ হতে যাচ্ছে, তা কোন চিন্তা অথবা কল্পনা নয়। এমনকি এটি আমাদের বর্তমান। এমনকি এখনি হচ্ছে। আমাদের মধ্যে অনেক মানুষ জানেন যে, গত বছরে-AI System কত দ্রুত এগিয়ে যাচ্ছে। আর এটি এগিয়ে যাওয়া, লাগাতার Improvement-ও হচ্ছে।

আপনি Realize-ও করতে পারবেন না, কিন্তু আমরা সবাই Artificial Intelligence- কে দিনের পর দিন Use করে আসছি। Example হিসেবেঃ যেমন ধরুন- Google Assistant, Virtual Assistant, CD এবং Alexa। এমনকি কিছু বড় বড় কোম্পানিরাও AI- এর ব্যবহার করছে। যেটা আপনাদের Daily Life- কে প্রভাবিত করে। আর আপনি বুঝতে পারেন না। যেমনটা যখন আপনি Youtube Open করেন, তো তখন সেটি আপনার পছন্দ অনুসারে, Youtube আপনাকে Video Suggest করে থাকে। যেটা থেকে আপনি কখনও Bore Feel করেন না। আর ঘন্টার পর ঘন্টা, আপনি কোনরকম Bore Feel না করে, ভিডিও দেখতে থাকেন।

কিন্তু এটির পিছনে, একটি Highly Complex Computer Algorithm কাজ করে থাকে। আর এই Algo- rithm নিজেই সময়ের সাথে নতুন কিছু শিখার ক্ষমতা রাখে। যেটাকে বলা হয়ে থাকে Machine Landing. আর Amazon এর মত বড় বড় E-Commerce Sites, এই মেশিন Algorithm-এর বছরের পর বছর ব্যবহার করে আসছে। আপনি যখন Amazon Open করেন। তো তখন আপনার পছন্দের জিনিস, আপনার চোখের সামনে এসে পরে। যেটা আপনি কিনতে চাচ্ছেন।

Moore’s law-তে বলা হয়েছিল, In Future CPU-তে প্রতি বছরে Transistor-এর সংখ্যা দুই গুণ গতিতে বেড়েই যাচ্ছে। আর আসলেই প্রতি বছর, এমনটা হয়ে আসছে। Gordon Moore, এই Theory 1971-B First CPU Invent–এর সময় করেছিলেন। আমরা Technology-এর Field-এ, অনেক দ্রুত গতিতে Grow করছি। হ্যাঁ এটি সত্যি যে, আমাদের কাছে এখন Present-এ Advanced level-এর Robot অথবা Super Computer AI System নেই। কিন্তু যত দ্রুত আমরা Grow করছি। সামনে আসা আনুমানিক ৫০ বছরে, আমরা Super Computer AI System-এ Develop করে ফেলবো। অনেক Scientist-রা বলে থাকেন যে, Artificial Intelligence সামনে আসা সময়ের জন্য, সবচেয়ে ভয়ানক Invention প্রমাণিত হবে। আর এটি আমাদের অস্তিত্বের সবচেয়ে বড় বিপদ। আর এই শতাব্দীর সবচেয়ে বড় Scientist, Stephen Hawking-ও Artifficial Intelligence- কে নিয়ে দুনিয়া জুড়ে সকল বিজ্ঞানীদের সংকেত দিয়ে গেছেন। আর Elon Musk-ও Recently তার একটি Interview তে বলেন, Artificial Intelligence – কে বানিয়ে আমরা শয়তান-কে দাওয়াত দিচ্ছি। দুনিয়া জুড়ে অনেক মানুষ যারা Artificial Intelligence-এর Power কে বুঝতে পারে।

তারা বলেন যে, এই সন্ধান আমাদের মানুষদের জন্য চূড়ান্ত খোঁজ প্রমাণিত হতে পারে। এর কারণ হলো, যখন এই Artificial Intelligence, আমাদের মানুষদের নিয়ন্ত্রণের বাইরে চলে যাবে, তখন AI System-এর উপর আমাদের কোন Control-B-ই থাকবে না। আর মানুষের বিরুদ্ধে AI-এর সাথে তখন একটি- মহাযুদ্ধ। যেটা আমরা কখনই জিততে পারবো না।

কারণ, তখন AI System মানুষ থেকে কয়েক লাখ গুণ বেশি Intelligent হয়ে যাবে। আর আমরা যেমনটাই চেষ্টা করি, AI System-কে বিনাশ করার প্রত্যেকটি Plan ব্যর্থ প্রমাণিত হবে। কারণ, আমাদের এক একটি Plan, তারা আগে থেকেই জেনে যাবে। আপনারা সবাই জানেন, দলবাঁধা পিঁপড়ার সাথে আমরা মানুষ কি করে থাকি। আপনি কি জানেন?? এই পিঁপড়া গুলোর মধ্যে আর আমাদের মধ্যে কি পার্থক্য?? আমাদের মানুষদের কাছে একটি Complex Brain আছে। যেটা এই পিঁপড়া গুলোর মধ্যে নেই। তারা শুধু দেখতে পারবে, মানুষের তৈরি করা এই Building গুলোকে। কিন্তু কখনও বুঝতে পারবে না, এই Building গুলোর ব্যবহার কীভাবে করে। তাদের জানা নেই যে, আমাদের Universe-এ কতগুলো Planet আর তারা রয়েছে। তাদের তো এটাও জানা নেই, আমাদের পৃথিবী একটি সূর্যের চারদিকে ঘুরছে।

যখন এই সকল Information আর চিন্তা করার ক্ষমতা, AI System-এর কাছে হবে, তখনই এই পিঁপড়া গুলোর মতই আমাদেরও পিষে ফেলা হবে। যেই কাজ আমাদের মানুষদের করতে ১০ বছর লেগে গিয়েছিল। সেই একই কাজ Artificial Intelligence-দের করতে শুধুমাত্র ১০ মিনিট লাগবে। আমরা চিন্তা করি যে, আমরা বাকি পশুপাখীদের তুলনায়, অনেক অনেক বেশি বুদ্ধিমান। আর আমরা এই দুনিয়ার Supreme Intelligence কিন্তু Reality-তে আমরা মানুষেরা এই পশুপাখীদের মধ্যে কিছু Fact গুলোতে বেশি Intelligence আর এই ছোট একটি Deference-এর কারণে, আমরা Technology-তে এতো বেশি আগাতে পেরেছি। যদি আমরা সকল Animals-দের Intelligence-কে ১ থেকে এক হাজার Scale-এর দিকে নজর দেই। তাহলে নাম্বার ওয়ানে আসে এই Rats। আর নাম্বার Four-এ আসবে এই Chimpanzee। আর নাম্বার Eight-এ এই Dolphin। আর পরে সবশেষে, পৃথিবীর সবচেয়ে বুদ্ধিমান জীব মানে আমরা মানুষ, যা নাম্বার দশে হবে।

আর এটিই একটি Super Intelligence AI, খুব সহজে হাজার হাজার Times আগে করে ফেলবে। যা আমাদের মানুষ থেকে অনেক গুণ বেশি। আমাদের মানুষের কাছে, একটি Complex Brain রয়েছে, যেটাতে লাখ লাখ কোটি কোটি Neurons রয়েছে। কিন্তু মানুষের চিন্তা করার ক্ষমতাতেও Limit থাকবে না। আসলে আমাদের Computer Power, এখনো এতো Fast হয়নি।

কিন্তু আমি আপনাদের প্রথমেই বলে দিয়েছি, আমাদের Computing Power, দিনের পর দিন এতো দ্রুত Grow করছে। ঐ দিন আসতে আর দেরি নেই, যখন Computer Processor, আজ থেকে হাজার গুণ বেশি গতি সম্পন্ন হয়ে যাবে। আর Artificial Intelligence, তখন এতো Computing Processor Power প্রয়োগ করার সামর্থ্য হয়ে যাবে, যত সে চাইবে। আর আমরা জানিই যে, Software-এর Processing Speed, কত বেশি। যেটার কারণে, এই Artificial Intelligence-দের জন্য কোন চূড়ান্ত সীমানা থাকবে না। এটি দিনের পর দিন আরও শক্তিশালী হতে থাকবে। আর সে তার নিজ শক্তিতে এমন এক Hardware-কে Develop করে ফেলবে। যেটা আমাদের Technology থেকে অনেক Fast এবং Powerful হবে।

আর তখনই আসবে Singularity. যেটাকে আমরা Artificial Super Intelligence বলে থাকি। মানে তখন AI System, মানব জাতি থেকে At-least One Percent (১%) বেশি Intelligent হয়ে যাবে। তখনই এই প্রশ্নটি আসে যে, Singularity আসার পর কি হবে ??? এটা কেউ জানে না। কিন্তু Singularity-এর আসা, একদম নিশ্চিত। Google-এর Chief Engineers Ray Kurzweil, ভবিষ্যৎবানী করেন যে, সাল ২০১২-এ আমরা Technology-এর Field, এতো আগে চলে যাবো যে, যেটা আমরা এক শতাব্দীতে করতে পারি নি। কিন্তু Singularity আমাদের জীবনকালেই আসবে। মানে বর্তমান প্রজন্ম এটিকে দেখতে পাবে। আর যখন এটি আসবে, তখন দুইটি প্রধান ঘটনার মধ্যে একটি হওয়া একদম নিশ্চিত। হয়তো আমাদের মানুষদের সম্পূর্ণভাবে বিনাশ করে দেয়া হবে। অথবা আমরা বর্তমানে যতটা ক্ষমতার অধিকারী আছি এরচেয়ে হাজারগুন বেশি ক্ষমতার অধিকারী হয়ে যাবো। আর আজকের সময়ে, যারা Artificial Intelligence–এর মাধ্যমে ভবিষ্যতে হওয়া বিপদকে নিয়ে ঠাট্টামি করছে। মানে যাদের মনে হয়, এই সবকিছু ফালতু আলাপ, এমনটা হওয়া তো একদমই অসম্ভব। আমাদের সবারই মতো, ঐসব লোকেরাও ভবিষ্যতে জানতে পারবে যে, আসলে এই AI Artificial Intelligent- আমাদের মানুষদের জন্য জীবনের সহযোগী শক্তি হবে ? নাকি বিপদের কারণ হবে ?। অপেক্ষা হচ্ছে শুধু সামনে আসা সময়ের।

Artificial Intelligence (AI) & Future World: ২০৫০ সাল! পৃথিবীটা অনেক বদলে গেছে। সেই সাথে বদলে গেছে প্রযুক্তির অবকাঠামো গুলো।

* একজন লোক অফিস থেকে বাসায় ফিরবে। গাড়ির জন্য অপেক্ষা করছে।হঠাৎ একটা গাড়ি এসে দাঁড়াল। গাড়িতে কোন ড্রাইভার নেই, গাড়িটিতে লোকটি আগে কখনও উঠেনি। কিন্তু গাড়িটি জানে লোকটি কোথায় যাবে। কোন কিছু জিজ্ঞেস করতে হল না। স্বয়ংক্রিয় দরজা খুলে গেলো। সে উঠে চলে গেলো।

* লেভেল বাড়িয়ে দিয়ে পিসিতে দাবা খেলে জিততে পারা যে কষ্টকর হয়ে যায়। বার বার Undo Move করেও জিততে না পেরে অনেকেরই মন খারাপ হয়েছে। [Weak AI]

* অথবা অনেক আগের সাদা কালো ডিসপ্লের ফোন গুলোর গেমস্ এর বস। ভিলেনের হাতে লাইফ হারানোর কথাও ভোলার নয়। সেই ভিলেনটাই ছিল মূলত Artificial Intelligence. [Weak AI]

১৯৩৬ সালে Computer সাইন্টিস্ট Alan Turing এর আবিষ্কৃত Turing Machine পৃথিবীর বুকে বুদ্ধিমান মেশিন তৈরির অনুপ্রেরণা জাগিয়ে তোলে এবং পরবর্তীতে ১৯৫৬ সালে John McCarthy (Father of AI), Marvin Minsky, Allen Newell, এবং Herbert A. Simon বিজ্ঞানীদের অবদানে আনুষ্ঠানিকভাবে Artificial Intelligence নামে একটি নতুন শাখা তৈরি হয়।

২য় বিশ্বযুদ্ধের সময়ে নিকোলা টেসলার প্রযুক্তি নিয়ে কয়েকটি ভবিষ্যৎবানীর মধ্যে Artificial Intelligence বা কৃত্রিম বুদ্ধিমত্তাটাও অন্তর্ভুক্ত ছিল। মানুষের কাজের জায়গা গুলো একদিন কৃত্রিম বুদ্ধিমত্তাগুলো দখল করে নেবে সেটা তিনি আগেই বলে গিয়েছিলেন।

২য় বিশ্বযুদ্ধটা কোটি মানুষের মৃত্যুর কারণ হলেও এর মধ্যে একটা সত্যি ছিল, সেটা হল প্রযুক্তি গুলো নতুনভাবে পরিবর্তিত হয়েছিলো যুদ্ধের সময়ে বিভিন্ন কাজে ব্যবহারের জন্য।

পৃথিবীর প্রায় সকল ক্ষেত্রেই Artificial Intelligence টা ঢুকে পড়ছে।

আজকের Google, Facebook এর মত বড় কোম্পানিগুলো যে Artificial Intelligence (AI) এর দক্ষ ব্যবহার করছে সেটা আপনার চিন্তা ভাবনা থেকেও অনেক বাইরে। আপনার সমস্ত Personal Choice, Search, Information সংগ্রহ করে Google এর AI. সেই অনুসারে আপনাকে বিভিন্ন প্রোডাক্টের বিজ্ঞাপন দেখায়।

উদাহরণ স্বরূপ:
* Facebook এ প্রতি মিনিটে গড়ে ১৪৭,০০০ টি Picture Upload, ৩১৭,০০০ টি Status, ৪০০ নতুন Users, ৫৪,০০০ টি Share, ১ million Friend Request, ১৫০০০০ টি Message আদানপ্রদান হয়। এটা ছিল প্রতি ১ মিনিটের হিসাব। তাহলে ১ দিনের হিসাবে কি পরিমাণ ডাটার প্রয়োজন ভাবনু তো?? আর ১ বছরে সেই ডাটার পরিমাণ কেমন হতে পারে সেটা আপনার কল্পনাকেও হার মানাবে!! এছাড়াও আপনি কার সাথে সব থেকে বেশি chat করছেন, কার story বেশি seen করছেন, কে আপনার সব থেকে ক্লোজ এই সমস্ত ডাটা হিসাব করে chat লিস্টে তার নাম সব থেকে ওপরে দেখাচ্ছে!! এই সমস্ত কিছু নিয়ন্ত্রণ করছে ফেসবুকের Artificial Intelligence এত বড় সাইজের ডাটা প্রসেসিং, সংরক্ষণ করেও সেই অনুসারে আপনাকে বিজ্ঞাপন দেখিয়ে যাচ্ছে প্রায় নির্ভুল ভাবেই।

* ssss আর এখন Facebook এ নাকি বাচ্চা কোলে নিয়ে পিক দিয়ে পরের দিন ডায়াপারের বিজ্ঞাপন দেখাতে থাকে!!

Artificial Intelligence (AI) এই ডাটা গুলো মুহূর্তেই যাচাই বাছাই করছে দূরে যেতে পারবেন?? প্রযুক্তি ও AI আপনার পিছু ছাড়বে না।

যত দিন যাচ্ছে তত বেশি Google, Facebook এর AI তত বেশি শক্তিশালী হয়ে উঠছে। সেই সাথে নির্ভুল ও হচ্ছে।

এ পর্যন্ত AI এর অবস্থার ওপর ভিত্তি করে Narrow AI, General Al & Strong AI এর মধ্যে আমরা এখন পর্যন্ত General AI তে পৌঁছাতে পেরেছি। ২০৫০ এর মধ্যেই চলে আসবে Strong AI তখন হয়তো রোবট গুলো নিজেরাই অন্যান্য রোবট তৈরিতে সক্ষমতা অর্জন করবে এবং প্রত্যেকটা রোবট তাঁদের সার্ভার অথবা নিজেদের মধ্যে নিউরাল নেটওয়ার্কে কানেক্টড থাকবে এবং এত বেশি ডাটা তাদের থাকবে, যে ডাটাগুলো ব্যবহার করে তাঁরা নতুন নতুন কৌশল আয়ত্ত করতে পারবে।

তখন AI Robot গুলো মানুষের কম্যান্ডের বাইরে চলে যাবে তখন এটি Singularity স্টেজে চলে যাবে এবং ধারণা করা হয় তাঁরা মানুষের থেকে সূক্ষ্মভাবে চিন্তা করবে এবং মানুষের জন্য ভয়ের কারণ হয়ে দাঁড়াবে। ২০৫০ এ না হোক ২-৩ শতাব্দী পরে হলেও এরকম অবস্থা তৈরি হতে পারে যেভাবে Artificial Intelligence এগিয়ে যাচ্ছে। ]

বিশ্বাস করতে কষ্ট হলেও সত্য। কেননা আদিম যুগের মানুষেরা আজকের মোবাইল, Computer কল্পনা করতে পারেনি।

বিলিয়ন বিলিয়ন ডলার খরচ করে NASA, Hanson Robitics, Boston Dynamic এর মত বড় বড় রোবট নির্মাতা কোম্পানি তাঁদের রোবট গুলোকে স্বয়ংক্রিয় করতে নিরলস কাজ করে যাচ্ছে। সমান্তরাল কাজ করছে MIT, Harvard সহ অন্যান্য স্বনামধন্য বিশ্ববিদ্যালয় গুলো।

ভাবতে পারেন Atlas, Asimo এর মত নাম করা রোবটগুলা মানুষকে হত্যার কাজে ব্যবহৃত হবে?

যুদ্ধ ক্ষেত্রে এখন রাশিয়া আর আমেরিকা দুই দেশই কৃত্রিম বুদ্ধিমত্তা সম্পন্ন মরণ-অস্ত্র তৈরির প্রতিযোগিতায় লিপ্ত হচ্ছে।

এককথায় পৃথিবীর সমস্ত কিছু Artificial Intelligence এর বেড়াজালে আবদ্ধ হয়ে যাবে। পৃথিবীটা আরও বেশি আরামদায়ক সেই সাথে আরও বেশি ভীতিকর হয়ে যাবে। পৃথিবীটা আরও বেশি আরামদায়ক সেই সাথে আরও বেশি ভীতিকর হয়ে পরছে কৃত্রিম বুদ্ধি মত্তার প্রভাবে। একদিন প্রত্যেকটা পরিবারে অন্তত একটা রোবট থাকবে। সেই দিনটি কেমন হবে? আর কেমন হবে তখনকার মানুষদের lifestyle? তো আপনার কি মনে হয়, Artificial Intelligence-কে Strong AI এর মানে Singularity পর্যন্ত পৌঁছাতে আর কত সময় লাগবে। ৫০ বছর, ১০০ বছর নাকি ১০০০ বছর। অথবা মানুষের এই সভ্যতা, AI-কে Singularity পর্যন্ত পৌঁছানোর আগেই, বাঁধা দিতে সফল হয়ে যাবে।

Name: Raihan Uddin Ahmed
Institute: Ahsanullah University of Science and Technology
Dept. Electrical and Electronic Engineering
Year: 1st
Semester: 2nd
Mobile: 01611642648