বিমূর্ত
1.INTRODUCTION
2.আডাপ মডেল
এসএই (স্ট্যাকড অটোইনকোডার):
ডিবিএন (গভীর বিশ্বাস নেটওয়ার্ক):
সিএনএন (কনভোলিউশনাল নিউরাল নেটওয়ার্ক):
আরএনএন (পুনরাবৃত্ত নিউরাল নেটওয়ার্ক):
জ্যানস (জেনারেশন অ্যাডভারসিয়াল নেটওয়ার্ক):
3.DEEP নেটওয়র্ক ভিত্তিক এইচএসআই শ্রেণিবদ্ধকরণ
বর্ণালী বৈশিষ্ট্যযুক্ত নেটওয়ার্কগুলি:
স্থানিক বৈশিষ্ট্য নেটওয়ার্কগুলি:
বর্ণালী-স্থানিক বৈশিষ্ট্য নেটওয়ার্কগুলি:
(1) প্রাক-প্রসেসিং-ভিত্তিক নেটওয়ার্কগুলি
(2) সংহত নেটওয়ার্কসমূহ
(3) পোস্টপ্রসেসিং-ভিত্তিক নেটওয়ার্কগুলি
সীমিত উপলভ্য নমুনাগুলির জন্য 4. সংযুক্তি
ডেটা অগমেন্টেশন
স্থানান্তর শিক্ষা
নিরীক্ষণ / নিখরচায়িত বৈশিষ্ট্য শিক্ষা
নেটওয়ার্ক অপ্টিমাইজেশন
5.EXPERIMENT
পরীক্ষা ডেটা সেট
পদ্ধতি তুলনা
শ্রেণিবিন্যাস ফলাফল
গভীর বৈশিষ্ট্য ভিজ্যুয়ালাইজেশন
সীমাবদ্ধ নমুনার জন্য কৌশলগুলির কার্যকারিতা বিশ্লেষণ
6.CONCLUSION
বিমূর্ত
প্রথমত, traditionalতিহ্যবাহী মেশিন লার্নিং পদ্ধতির ত্রুটিগুলি এবং গভীর শিক্ষার সুবিধার সংক্ষিপ্তসার দেওয়া হয়।
তারপরে, সাহিত্যে নেটওয়ার্ক নিষ্কাশনের বৈশিষ্ট্য অনুসারে, সাম্প্রতিক গবেষণা ফলাফলগুলি তিনটি বিভাগে বিভক্ত করা হয়েছে: বর্ণালী-বৈশিষ্ট্য নেটওয়ার্ক, স্থানিক বৈশিষ্ট্য নেটওয়ার্ক এবং বর্ণালী-স্থানীয় বৈশিষ্ট্য নেটওয়ার্ক।
এছাড়াও, সীমিত প্রশিক্ষণের নমুনাগুলির সমস্যার জন্য বেশ কয়েকটি কৌশল প্রস্তাব করা হয়।
পরিশেষে, হাইপারস্পেকট্রাল ডেটা সেটগুলি শ্রেণীবদ্ধ এবং তুলনা করতে বেশ কয়েকটি গভীর শিক্ষণ-ভিত্তিক শ্রেণিবদ্ধকরণ পদ্ধতি ব্যবহার করা হয়।
1.INTRODUCTION
হাইপারস্পেকট্রাল শ্রেণিবিন্যাসের দুটি বড় চ্যালেঞ্জ হ'ল:
(1) বর্ণালী স্বাক্ষরের স্থানিক প্রকরণটি বৃহত;
হাইপারস্পেকট্রাল শ্রেণিবদ্ধকরণ পদ্ধতি:
(1) পিক্সেলওয়্যার শ্রেণিবদ্ধকরণ পদ্ধতি: এনএন, এসভিএম, এমএলআর (বহুবর্ষীয় লজিস্টিক রিগ্রেশন), গতিশীল বা এলোমেলো উপ-স্পেস (বর্ণালী স্বাক্ষরের উপর ফোকাস); পিসিএ, আইসিএ, এলডিএ (লিনিয়ার বৈষম্যমূলক বিশ্লেষণ) (বৈশিষ্ট্য নিষ্কাশন বা মাত্রা হ্রাস উপর ফোকাস)
----------------------------------------- ------- স্থানিক বৈশিষ্ট্য যুক্ত করুন ---------------------------------------- --------
(২) এসএসএফসি (বর্ণালী-স্থানীয় বৈশিষ্ট্য-ভিত্তিক শ্রেণিবিন্যাস, যা উপরে উল্লিখিত পিক্সেল-স্তরের শ্রেণিবদ্ধে স্থানিক প্রাসঙ্গিক তথ্য যুক্ত করে): ইএমপি (মোড়ফোলজিকাল ক্রিয়াকলাপগুলির মাধ্যমে স্থানিক তথ্য প্রাপ্ত করার জন্য প্রসারিত আকারের প্রোফাইলগুলি) , মুটিপল কার্নেল শেখা (বর্ণালী-স্থানীয় তথ্য পাওয়ার জন্য ডিজাইনের যৌগিক কার্নেল এবং মোর্ফোলজিকাল কার্নেল), ইপিএফ (প্রান্ত-সংরক্ষণের ফিল্টারিং, এসভিএম সম্ভাব্যতার ফলাফলগুলি অনুকূলকরণের জন্য পোস্ট-প্রসেসিং পদ্ধতি), স্পার্স প্রতিনিধিত্বকারী মডেল (পার্শ্ববর্তী তথ্য যোগ করা, স্পার্স প্রতিনিধিত্ব মডেলের উপর ভিত্তি করে) হাইপারস্পেকট্রাল কোষগুলি অল্প সংখ্যক অনুরূপ কোষের লিনিয়ার সংমিশ্রণ সহ এই সন্ধানের প্রতিনিধিত্ব করতে পারে)।
Traditionalতিহ্যবাহী মেশিন লার্নিং পদ্ধতির ত্রুটিগুলি:
(1) হাতের কারুকৃত বা অগভীর-ভিত্তিক বর্ণনাকারীদের উপর নির্ভর করা এবং কৃত্রিম বৈশিষ্ট্যগুলি নির্দিষ্ট কাজগুলি সম্পন্ন করার জন্য ডিজাইন করা হয়েছে এবং পরামিতি আরম্ভের পর্যায়ে বিশেষজ্ঞের জ্ঞান প্রয়োজন, যা মডেল অ্যাপ্লিকেশন দৃশ্যের সীমাবদ্ধ করে which ।
(২) কৃত্রিম বৈশিষ্ট্যগুলি প্রকাশের দক্ষতা একটি শ্রেণীর মধ্যে বিভিন্ন শ্রেণি এবং বৃহত্তর প্রকরণের মধ্যে ছোট পার্থক্য সনাক্ত করতে যথেষ্ট নয়।
গভীর শিক্ষার সুবিধাগুলি:
(1) তথ্য সমৃদ্ধ বৈশিষ্ট্যগুলি আহরণের ক্ষমতা
(2) গভীর শিক্ষণ স্বয়ংক্রিয়, সুতরাং যে মডেলটিতে প্রয়োগ করা হয়েছে সেই দৃশ্যটি আরও নমনীয়।
2.আডাপ মডেল
সংক্ষিপ্তভাবে হাইপারস্পেকট্রাল শ্রেণিবদ্ধকরণ-এসএই (স্ট্যাকড সেল্ফ-কোডিং), ডিবিএন (গভীর বিশ্বাস নেটওয়ার্ক), সিএনএন (কনভ্যুশনাল নিউরাল নেটওয়ার্ক), আরএনএন (পুনরাবৃত্ত নিউরাল নেটওয়ার্ক), জিএএন (বিপরীতমুখী নেটওয়ার্ক জেনারেশন) এর জন্য ব্যবহৃত বেশ কয়েকটি গভীর নেটওয়ার্ক মডেল সংক্ষেপে পরিচয় করান )।
এসএই (স্ট্যাকড অটোইনকোডার):
"অটোনকোডারস এবং স্ট্যাকড অটোইনকোডারগুলির সংক্ষিপ্ত পরিচিতি" (এই নিবন্ধটি SAE এর একটি বিস্তৃত বিবরণ)
এই SAEs এর প্রাথমিক একক unit AE নেটওয়ার্ক ইনপুট স্তর (x), লুকানো স্তর (h), আউটপুট স্তর (y) নিয়ে গঠিত মেক আপ। X থেকে h পর্যন্ত প্রক্রিয়াটিকে "এনকোডার" বলা হয় এবং h থেকে y পর্যন্ত প্রক্রিয়াটিকে "ডিকোডার" বলা হয়। আমরা "এনকোডার" প্রক্রিয়াটির দিকে মনোযোগ দিই, এই আশা করে যে এক্স এর কিছু রূপান্তর দ্বারা প্রাপ্ত এইচটি y পর্যন্ত সর্বাধিক পরিমাণে পুনরুদ্ধার করা যায়, যাতে এক্সের একটি নির্দিষ্ট বৈশিষ্ট্যযুক্ত এইচটি বের করা যায়।
এইচ বৈশিষ্ট্যগুলি নিষ্কাশনের জন্য এই প্রশিক্ষণের পরে, আমরা আউটপুট স্তরটি সরিয়ে ফেলব এবং তারপরে আরও গভীর বৈশিষ্ট্যগুলি সন্ধানের জন্য এগুলি স্ট্যাক করব। পরিশেষে, এসএইএস পেতে একটি লজিস্টিক রিগ্রেশন শ্রেণিবদ্ধকারী যুক্ত করা হয়।
একটি পিক্সেল ভেক্টর এবং ইনপুটটিং ক্লাস লেবেলগুলি ইনপুট করা SAEs কে বর্ণালী শ্রেণিবদ্ধ হিসাবে বিবেচনা করতে পারে।
ডিবিএন (গভীর বিশ্বাস নেটওয়ার্ক):
"সীমাবদ্ধ বল্টজম্যান মেশিন", কপিরাইট বিবৃতি: এই নিবন্ধটি সিএসডিএন ব্লগার "হিরো গ্রেট" র একটি মূল নিবন্ধ, যা সিসি 4.0 বাই-সা কপিরাইট চুক্তি অনুসরণ করে Please অনুগ্রহ করে মূল উত্সের লিঙ্ক এবং এই বিবৃতিটি আবার মুদ্রণ করুন।
ডিপ লার্নিং-ডিপ বিলিফ নেটওয়ার্ক
আরবিএম (সীমাবদ্ধ বল্টজম্যান মেশিন) ডিবিএন এর প্রাথমিক ইউনিট SA এটি এসইএতে এই এর মতো এবং এটি নিরীক্ষণযুক্ত শ্রেণিবিন্যাসের অন্তর্ভুক্ত For ফরোয়ার্ড প্রচারটি এনকোডিং প্রক্রিয়া এবং পিছনে প্রচার back এটিই ডিকোডিং প্রক্রিয়া। নিউরন নোডের মধ্যে সংযোগগুলি দ্বি-মুখী।
আরবিএমের প্রতিটি নোড একটি এলোমেলো বাইনারি নোড (0/1 হিসাবে মূল্যবান), যা "সীমাবদ্ধতার" উত্সও। আরবিএমের শক্তি কার্যকারিতা বোল্টজমান শক্তির বিতরণের উপর ভিত্তি করে। প্রতিটি দৃশ্যমান নোড এবং লুকানো নোডের মধ্যে সংযোগ কাঠামোর একটি শক্তি রয়েছে। V এবং h মধ্যে পরামিতিগুলি শেখার মাধ্যমে আমরা এর শক্তি গণনা করতে পারি। নিউরাল নেটওয়ার্কের পরিবর্তন প্রক্রিয়াটি মূলত ক্রমাগত হ্রাস পাওয়ার একটি প্রক্রিয়া এবং অবশেষে শক্তির সর্বনিম্ন বিন্দুতে পৌঁছে যায়, যা স্থিতিশীল রাষ্ট্র।
ডিবিএন আরবিএমের একাধিক স্তর নিয়ে গঠিত, যা জেনারেটরি মডেল বা বৈষম্যমূলক মডেল হিসাবে বিবেচিত হতে পারে। লজিস্টিক রিগ্রেশন ক্লাসিফায়ার যুক্ত করা বর্ণাল শ্রেণীবদ্ধকারী গঠন করে।
সিএনএন (কনভোলিউশনাল নিউরাল নেটওয়ার্ক):
"একটি নিবন্ধ আপনাকে
কনভোলশনাল নিউরাল নেটওয়ার্কগুলির একটি সম্পূর্ণ উপলব্ধি দেয়" " সিএনএন একটি চিত্রের দ্বিমাত্রিক স্থানিক বৈশিষ্ট্যগুলি বের করতে পারে এবং নেটওয়ার্ক পরামিতি হ্রাস করতে পরামিতি ভাগ করে নেওয়াও ব্যবহার করতে পারে। কনভুলেশনাল স্তর, পুলিং স্তর, সম্পূর্ণ সংযুক্ত স্তর সহ। সম্পূর্ণরূপে সংযুক্ত স্তর বৈশিষ্ট্য মানচিত্রগুলিকে বৈশিষ্ট্য ভেক্টরগুলিতে রূপান্তর করে।
আরএনএন (পুনরাবৃত্ত নিউরাল নেটওয়ার্ক):
"ডিপ লার্নিংয়ের জন্য আরএনএন (পুনরাবৃত্ত নিউরাল নেটওয়ার্ক)", কপিরাইট বিবৃতি: এই নিবন্ধটি সিএসডিএন ব্লগার "অজওয়ার্ড স্টোন" এর মূল নিবন্ধ, যা সিসি 4.0 বাই-সা কপিরাইট চুক্তি অনুসরণ করে Please অনুগ্রহ করে মূল উত্সের লিঙ্ক এবং এই বিবৃতিটি আবার মুদ্রণ করুন।
আরএনএনগুলিতে লুকানো স্তরের নোডগুলি সংযুক্ত থাকে hidden লুকানো স্তরের ইনপুটটিতে কেবলমাত্র ইনপুট স্তরের আউটপুটই নয় তবে পূর্ববর্তী মুহুর্তে লুকানো স্তরের আউটপুটও অন্তর্ভুক্ত থাকে। সুতরাং আরএনএনগুলি সময় সিরিজের সাথে সম্পর্কিত সমস্যাগুলি মোকাবেলার জন্য উপযুক্ত।
এছাড়াও বর্ণালী জায়গায়, হাইপারস্পেকট্রাল ডেটার প্রতিটি পিক্সেল ভেক্টরকে ক্রমযুক্ত এবং ক্রমাগত বর্ণালী ক্রম হিসাবে চিহ্নিত করা যায়, সুতরাং আরএনএন হাইপারস্পেকট্রাল শ্রেণিবিন্যাসের জন্য উপযুক্ত।
গ্রেডিয়েন্ট নিখোঁজ হওয়া বা গ্রেডিয়েন্ট বিস্ফোরণের সমস্যার জন্য, আরএনএনগুলির জন্য উন্নত অ্যালগরিদমগুলিও প্রস্তাব করা হয়েছে: এলএসটিএম এবং জিআরইউ।
জ্যানস (জেনারেশন অ্যাডভারসিয়াল নেটওয়ার্ক):
মেশিন লার্নিংয়ের ক্ষেত্রে, মডেলগুলি মোটামুটি দুটি বিভাগে বিভক্ত করা যায়: জেনারেটরি মডেল এবং বৈষম্যমূলক মডেল। উত্পন্ন মডেল ডেটা থেকে প্যারামিটার বিতরণ শিখায় এবং তারপরে শিখানো মডেলের উপর ভিত্তি করে নতুন নমুনা তৈরি করে; মডেলের ডেটার মধ্যে পার্থক্যকে বৈষম্য করে, নমুনা তথ্যের উপর ভিত্তি করে এক্স থেকে y পর্যন্ত একটি ম্যাপিং স্থাপন করে এবং তারপরে এই ম্যাপিংয়ের ভিত্তিতে পূর্বাভাস দেয়।
"একটি নিবন্ধ জেনেটেটিভ অ্যাডভারসিয়াল নেটওয়র্কস (জিএএনএস) পড়েছে [পিডিএফ ডাউনলোড করুন | লং নিবন্ধ]"
প্রজন্মের মডেল শব্দের সাথে মিথ্যা ডেটা উত্পন্ন করে, এবং মডেলটিকে আলাদা করে সত্য তথ্য এবং মিথ্যা তথ্য বিচার করে প্রজন্মের মডেলটির ভুয়া তথ্য উত্পন্ন করার ক্ষমতা বৃদ্ধি করে।
3.DEEP নেটওয়র্ক ভিত্তিক এইচএসআই শ্রেণিবদ্ধকরণ
বর্ণালী বৈশিষ্ট্যযুক্ত নেটওয়ার্কগুলি:
প্রথম দিনগুলিতে, SAE বা DBN সরাসরি বর্ণালী ভেক্টর ব্যবহার করে একটি অপ্রচলিত পদ্ধতিতে সরাসরি প্রশিক্ষণ দেওয়া হয়েছিল।
পরে, গভীর শিক্ষণ এবং সক্রিয় শিক্ষার সমন্বয়ের একটি শ্রেণিবদ্ধ কাঠামো প্রস্তাব করা হয়েছিল, যেখানে ডিবিএন গভীর বর্ণালী বৈশিষ্ট্যগুলি বের করার জন্য ব্যবহৃত হয়েছিল, এবং গভীর শিক্ষার আলগোরিদিমগুলি চিহ্নিত করার জন্য উচ্চমানের প্রশিক্ষণের নমুনাগুলি নির্বাচন করতে ব্যবহৃত হয়েছিল; এবং প্রস্তাবিত বৈচিত্র্যময় ডিবিএন, যা নিয়মিত ডিবিএন-এর জন্য একটি প্রিপ্রোসেসিং এবং ফাইন-টিউনিং প্রোগ্রাম is ।
এছাড়াও, 1-ডি সিএনএন, 1-ডি জিএন, এবং আরএনএন বর্ণালী বৈশিষ্ট্যগুলি নিষ্কাশন করতে ব্যবহৃত হয়; বর্ণালী ডোমেনে পিক্সেল-জুড়ির বৈশিষ্ট্যগুলি (পিপিএফ) এর সমাপ্তি এক্সট্রাকশন সম্পাদন করে
Finally শেষ পর্যন্ত, অভিধানটি সংশোধিত গভীর নেটওয়ার্কগুলিকে প্রশিক্ষণের জন্য প্রশিক্ষণ দেওয়া হয়।
স্থানিক বৈশিষ্ট্য নেটওয়ার্কগুলি:
আরও সঠিক হাইপারস্পেকট্রাল শ্রেণিবিন্যাস সম্পাদনের জন্য অন্যান্য বৈশিষ্ট্য নিষ্কাশন পদ্ধতি দ্বারা নিষ্কাশিত বর্ণালী বৈশিষ্ট্যগুলির সাথে শিখানো স্থানিক বৈশিষ্ট্যগুলি বিভক্ত হবে।
পিসিএ (মূল তথ্যের মাত্রা হ্রাস করুন) + ২-ডি সিএনএন (স্পেস ডোমেনে স্থানীয় তথ্য আহরণ করুন);
সিএনএন দ্বারা উত্তোলিত গভীর স্থানিক বৈশিষ্ট্যটিকে এনকোড করতে স্পার্স উপস্থাপনা ব্যবহার করুন যাতে এটি একটি নিম্ন-মাত্রিক বিচ্ছিন্ন প্রতিনিধিত্ব করে;
সরাসরি অ্যালেক্সনেট ব্যবহার করে এবং গুগলনেটের সিএনএনগুলি গভীর স্থানিক
বৈশিষ্ট্যগুলি আহরণ করতে; এসএসএফসি ফ্রেমওয়ার্ক, যা বর্ণালী এবং স্থানিক বৈশিষ্ট্যগুলি নিষ্ক্রিয় করতে সুষম স্থানীয় বৈষম্যমূলক এম্বেডিং (বিএলডিই) এবং সিএনএন ব্যবহার করে এবং তারপরে একাধিক বৈশিষ্ট্য-ভিত্তিক শ্রেণিবদ্ধ প্রশিক্ষণ দেওয়ার জন্য বৈশিষ্ট্যগুলিকে ফিউজ করে;
মাল্টিস্কেলের স্থানিক-বর্ণালী বৈশিষ্ট্য নিষ্কাশন অ্যালগরিদম, প্রশিক্ষিত এফসিএন -8 গভীর মাল্টিস্কেল স্থানিক বৈশিষ্ট্যগুলি নিষ্কাশন করতে ব্যবহৃত হয়, তারপরে মূল বর্ণাল বৈশিষ্ট্য এবং গভীর মাল্টিস্কেল স্থানিক বৈশিষ্ট্যগুলিকে ভারযুক্ত ফিউশন পদ্ধতি ব্যবহার করে ফিউজ করা হয়, এবং সংযুক্ত বৈশিষ্ট্যগুলি শেষ পর্যন্ত শ্রেণিবদ্ধে রাখা হয়;
বর্ণালী-স্থানিক বৈশিষ্ট্য নেটওয়ার্কগুলি:
বর্ণালী বৈশিষ্ট্য বা স্থানিক বৈশিষ্ট্যগুলি নিষ্কাশনের জন্য এই নেটওয়ার্কটি ব্যবহৃত হয় না, তবে যৌথ গভীর বর্ণালী-স্থানীয় বৈশিষ্ট্যগুলি নিষ্কাশন করতে ব্যবহৃত হয়।
যৌথ গভীর বর্ণাল-স্থানীয় বৈশিষ্ট্যগুলি প্রাপ্ত করার জন্য তিনটি উপায় রয়েছে: (1) গভীর নেটওয়ার্কের মাধ্যমে নিম্ন স্তরের বর্ণালি-স্থানগত বৈশিষ্ট্যগুলিতে মানচিত্র নিম্ন স্তরের বর্ণাল-স্থানিক বৈশিষ্ট্যগুলি ম্যাপ করুন; (২) মূল ডেটা বা বেশ কয়েকটি মূল উপাদান থেকে সরাসরি নিষ্কাশন করা হবে গভীর বর্ণালী-স্থানীয় বৈশিষ্ট্যসমূহ; (3) 2 গভীর বৈশিষ্ট্যগুলি, যথা গভীর বর্ণালী বৈশিষ্ট্য এবং গভীর স্থানিক বৈশিষ্ট্যগুলির ফিউশন।
অতএব বর্ণালী তথ্য এবং স্থানিক তথ্যের সংমিশ্রণের বিভিন্ন প্রক্রিয়া পর্যায় অনুযায়ী বর্ণালী-স্থানিক বৈশিষ্ট্য নেটওয়ার্কগুলিকে 3 টি বিভাগেও বিভক্ত করা হয়: প্রিপ্রোসেসিং-ভিত্তিক নেটওয়ার্ক, সংহত নেটওয়ার্ক এবং পোস্টপ্রসেসিং-ভিত্তিক নেটওয়ার্কগুলি।
(1) প্রাক-প্রসেসিং-ভিত্তিক নেটওয়ার্কগুলি
গভীর নেটওয়ার্কে সংযোগের আগে বর্ণালি বৈশিষ্ট্য এবং স্থানিক বৈশিষ্ট্যগুলি একত্রিত করা হয়েছে।
প্রক্রিয়াজাতকরণের পদক্ষেপগুলি:-নিম্ন-স্তরের বর্ণালী-স্থানীয় বৈশিষ্ট্য ফিউশন; networks গভীর নেটওয়ার্কগুলির সাথে উচ্চ স্তরের বর্ণালী-স্থানিক বৈশিষ্ট্য আহরণ;; সাধারণ শ্রেণিবদ্ধের সাথে গভীর এসএসএফসি সংযুক্ত করুন (যেমন এসভিএম, ইএলএম চরম শেখার মেশিন, বহুবর্ষীয় লজিস্টিক রিগ্রেশন)।
যেহেতু সম্পূর্ণরূপে সংযুক্ত নেটওয়ার্ক (যেমন, Dbn, SAE, ইত্যাদি) ইনপুট শুধুমাত্র এক-মাত্রিক হ্যান্ডেল করতে পারেন, আমরা পুনর্নির্মাণ স্থানিক আশপাশ 1-মাত্রিক ভেক্টর, নিম্নলিখিত ভুতুড়ে তথ্য এক-মাত্রিক সম্পূর্ণরূপে সংযুক্ত নেটওয়ার্কে superimposed আশা;
একটি স্থানিক আশপাশ সমস্ত পিক্সেলের বর্ণনামূলক তথ্যকে একটি বর্ণালী ভেক্টর হিসাবে গড়ে তোলা হয় This এই গড় বর্ণালী ভেক্টরটি আসলে স্থানিক তথ্য অন্তর্ভুক্ত করে, এবং আমরা এটি পরবর্তী গভীর নেটওয়ার্কে রাখি;
তাদের মধ্যে কিছু লোক পাড়ায় স্থানিক তথ্য গ্রহণ করে না। ফিল্টারিং পদ্ধতিগুলি (যেমন আরও কার্যকর স্থানিক বৈশিষ্ট্যগুলি নিষ্কাশনের জন্য গোবর ফিল্টারিং, অ্যাট্রিবিউট ফিল্টারিং, এক্সটেনশন ফিল্টারিং এবং রোলিং গাইডিং ফিল্টারিং), যা গভীর শিক্ষা এবং স্থানিক বৈশিষ্ট্য নিষ্কাশন পদ্ধতির সমন্বয় করে।
(2) সংহত নেটওয়ার্কসমূহ
বর্ণালী বৈশিষ্ট্য এবং স্থানিক বৈশিষ্ট্যগুলি আলাদাভাবে পাওয়ার এবং তারপরে মার্জ করার পরিবর্তে আপনি সরাসরি যৌথ গভীর বর্ণালী-স্থানিক বৈশিষ্ট্যগুলি পেতে পারেন।
মূল ডেটা থেকে সরাসরি যৌথ গভীর বর্ণালী-স্থানিক বৈশিষ্ট্যগুলি আহরণ করতে 2-ডি সিএনএন বা 3-ডি সিএনএন ব্যবহার করুন;
এফসিএন (সম্পূর্ণ সমঝোতা নেটওয়ার্ক) তদারকি করা বা নিষ্ক্রিয় পদ্ধতিগুলির মাধ্যমে হাইপারস্পেকট্রাল গভীর বৈশিষ্ট্যগুলি শিখতে পারে;
আরএল (অবশিষ্ট শিখন) একটি গভীর এবং প্রশস্ত নেটওয়ার্ক তৈরিতে সহায়তা করতে পারে a একটি অবশিষ্ট অংশে আউটপুট হ'ল ইনপুট এবং ইনপুট রোল মানগুলির যোগফল;
বৈশিষ্ট্যগুলি আহরণের জন্য 3-ডি জিএন ব্যবহার করুন, যেখানে একটি সিএনএন একটি বৈষম্যমূলক মডেল এবং অন্যটি সিএনএন একটি প্রজন্মের মডেল;
সংশোধন বৈশিষ্ট্যগুলি বের করার জন্য বর্ণালী-স্থানীয় ক্যাপসুল হিসাবে ক্যাপসনেটস;
--------------------------------------- --------- হাইব্রিড গভীর নেটওয়ার্কগুলির প্রস্তাব দিন ------------------------------------- -----------
থ্রি-লেয়ার স্ট্যাকড
কনভ্যুশনাল অটোনকোডার লেবেলযুক্ত পিক্সেলের মাধ্যমে সাধারণকরণযোগ্য বৈশিষ্ট্যগুলি শিখতে পারে; কনভ্যুশনাল আরএনএনএস (সিআরএনএন) হাইপারস্পেক্ট্রাল সিকোয়েন্সগুলি থেকে মাঝারি স্তরের বৈশিষ্ট্যগুলি বের করতে এবং আরএনএন ব্যবহার করতে সিএনএন ব্যবহার করে মাঝারি স্তরের বৈশিষ্ট্যগুলি থেকে প্রসঙ্গ তথ্য আহরণ করুন;
বর্ণালী-স্থানিক ক্যাসকেড আরএনএন মডেল বৈশিষ্ট্যগুলি নিষ্কাশন করতে ব্যবহৃত হয়।
(3) পোস্টপ্রসেসিং-ভিত্তিক নেটওয়ার্কগুলি
প্রসেসিং পদক্ষেপগুলি: spect গভীর বর্ণালী বৈশিষ্ট্য এবং গভীর স্থানিক বৈশিষ্ট্যগুলি নিষ্কাশন করতে 2 গভীর নেটওয়ার্ক ব্যবহার করুন; গভীর বর্ণালী-স্থানিক বৈশিষ্ট্য উত্পন্ন করতে সম্পূর্ণ সংযুক্ত স্তরে ফিউশন 2 বৈশিষ্ট্য;; সাধারণ শ্রেণিবদ্ধের সাথে গভীর এসএসএফসি সংযুক্ত করুন (যেমন এসভিএম, ইএলএম চরম শেখার মেশিন , বহুবচনীয় লজিস্টিক রিগ্রেশন)।
ধাপে দুটি গভীর নেটওয়ার্ক ights ওজন ভাগ বা নাও করতে পারে।
বর্ণ-বৈশিষ্ট্যগুলি নিষ্কাশন করতে 1-ডি সিএনএন ব্যবহার করা হয় এবং স্থানিক বৈশিষ্ট্যগুলি বের করতে 2-ডি সিএনএন ব্যবহার করা হয়। তারপরে এই দুটি বৈশিষ্ট্যগুলি শ্রেণিবিন্যাসের বর্ণালি-স্থানগত বৈশিষ্ট্যগুলি নিষ্ক্রিয় করতে সম্পূর্ণ সংযুক্ত স্তরের সাথে সংযুক্ত এবং সংযুক্ত করা হয়;
প্রতিটি ইনপুট পিক্সেলের জন্য, সজ্জিত বৈশিষ্ট্যগুলি একটি ডিনোইজিং অটোরকোডার ব্যবহার করে উত্তোলন করা হয়। সম্পর্কিত চিত্র ব্লকের জন্য, স্থিতিশীল বৈশিষ্ট্যগুলি নিষ্কাশনের জন্য গভীর সিএনএন ব্যবহার করা হয়, এবং তারপরে দুটি পূর্বাভাসের সম্ভাবনাগুলি ফিউজড হয়;
বর্ণাল বৈশিষ্ট্যগুলি বের করতে দুটি প্রধান উপাদান উপাদান বিশ্লেষণ নেটওয়ার্ক ব্যবহার করা হয়, এবং দুটি স্ট্যাকড স্পার্স অটোনকোডারগুলি স্থানিক বৈশিষ্ট্যগুলি সম্পূর্ণরূপে সংযুক্ত করার জন্য ব্যবহৃত হয় + এসভিএম;
একাধিক সিএনএন একসাথে একাধিক বর্ণালী সেট (ভাগ করা ওজন) প্রক্রিয়া করে, প্রতিটি সিএনএন সংশ্লিষ্ট স্থানিক বৈশিষ্ট্যটি নিষ্কাশন করে + সম্পূর্ণ সংযুক্ত স্তরে পৃথক স্থানিক বৈশিষ্ট্যগুলি ফিউজ করে।
সীমিত উপলভ্য নমুনাগুলির জন্য 4. সংযুক্তি
ডেটা অগমেন্টেশন
ডিএ প্রশিক্ষণ নমুনাগুলির মাধ্যমে ভার্চুয়াল নমুনা উত্পন্ন করে, যার মধ্যে 2 টি পদ্ধতি রয়েছে: (1) ট্রান্সফর্ম-ভিত্তিক নমুনা জেনারেশন; (2) মিশ্রণ-ভিত্তিক নমুনা জেনারেশন
(1)
বিভিন্ন আলোক পরিস্থিতিতে অবস্থার অনুরূপ বস্তুর কারণে রূপান্তর-ভিত্তিক নমুনা জেনারেশন আলাদা হবে , সুতরাং আমরা বিদ্যমান প্রশিক্ষণের নমুনাগুলি ঘোরানো এবং মিরর করে নতুন ডেটা তৈরি করতে পারি।
(২) মিশ্রণ-ভিত্তিক নমুনা জেনারেশন
2 অনুরূপ নমুনার লিনিয়ার সংমিশ্রণে 1 টি নতুন নমুনা তৈরি করতে পারে।
স্থানান্তর শিক্ষা
টিএল প্যারামিটারগুলি আরম্ভ করার জন্য অন্যান্য প্রশিক্ষিত নেটওয়ার্কগুলি থেকে পরামিতিগুলি অনুলিপি করতে পারে। নিম্ন ও মাঝারি স্তরগুলির নেটওয়ার্ক পরামিতিগুলি সরাসরি নতুন নেটওয়ার্কে স্থানান্তর করুন যা পূর্ববর্তী নেটওয়ার্কের মতো একই স্থাপত্য রয়েছে।
উপরের স্তরগুলির প্যারামিটারগুলিও এলোমেলোভাবে নির্দিষ্ট সমস্যা মোকাবেলায় শুরু করা হয়।
একবার নেটওয়ার্ক প্যারামিটারগুলি স্থানান্তরিত হয়ে গেলে, পরবর্তী শ্রেণিবিন্যাসগুলিও নিরীক্ষণ ও তদারকি পদ্ধতিতে ভাগ করা যায়। নিরীক্ষণ পদ্ধতিটি মাইগ্রেশন নেটওয়ার্কের দ্বারা শ্রেণিবিন্যাসের জন্য প্রত্যক্ষিত বৈশিষ্ট্যগুলি সরাসরি ব্যবহার করে; নিরীক্ষণযুক্ত শ্রেণিবিন্যাসটি সংক্ষিপ্ত সংখ্যক প্রশিক্ষণের নমুনাগুলিও সূক্ষ্ম সুরকরণে যুক্ত করে।
নিরীক্ষণ / নিখরচায়িত বৈশিষ্ট্য শিক্ষা
নিরীক্ষণযোগ্য বৈশিষ্ট্য শেখার ক্ষেত্রে কেবল লেবেলযুক্ত ডেটা সেট ব্যবহার করা হয়, যা এনকোডার-ডিকোডার প্রক্রিয়া হিসাবে বিবেচনা করা যেতে পারে। আধা তত্ত্বাবধানে শ্রেণিবদ্ধকরণ বৈশিষ্ট্য শেখা প্রশিক্ষিত নেটওয়ার্কের প্যারামিটারগুলি স্থানান্তর করে এবং লেবেলযুক্ত ডেটাসেটকে সূক্ষ্ম-টিউন করে বৈশিষ্ট্যগুলি বের করতে পারে।
এইচএসআই সম্পূর্ণরূপে সংযুক্ত নেটওয়ার্ক ব্যবহার করে শ্রেণিবদ্ধ করা হয় the নেটওয়ার্কের প্রশিক্ষণটি নিখরচায় প্রাকট্রাইনিং এবং লেবেলযুক্ত ডেটার সাথে সূক্ষ্ম-সুরকরণে বিভক্ত। প্রাক-প্রশিক্ষণের সময়কালে, প্যারামিটার লার্নিংটিকে এনকোডার-ডিকোডার প্রক্রিয়া (আনল্যাবড ডেটা – ইন্টারমিডিয়েট বৈশিষ্ট্য – পুনর্নির্মাণ) হিসাবে দেখা যায়। তবে এটি তুলনামূলকভাবে অদক্ষ, সুতরাং একটি অপ্রচলিত শেষ থেকে শেষের প্রশিক্ষণ কাঠামোটি প্রস্তাব করা হয়েছে, যা কনভোলশনাল নেটওয়ার্কটিকে এনকোডার হিসাবে এবং ডিকনভোলিউশন নেটওয়ার্ককে ডিকোডার হিসাবে বিবেচনা করে।
আধা তত্ত্বাবধানে থাকা বৈশিষ্ট্য শেখার কাঠামোটি তৈরি করতে GAN ব্যবহার করা হয়।
প্যারামিটারলেস বায়েশিয়ান ক্লাস্টারিং অ্যালগরিদম ব্যবহার করে প্রাপ্ত বিপুল সংখ্যক লেবেলযুক্ত ডেটা এবং সিউডো লেবেল সিআরএনএনকে প্রাক প্রশিক্ষণ দেওয়ার জন্য ব্যবহৃত হয়।
নেটওয়ার্ক অপ্টিমাইজেশন
আরও দক্ষ মডিউল বা ফাংশন গ্রহণ করে, নেটওয়ার্ক অপ্টিমাইজেশন নেটওয়ার্কের কার্যকারিতা উন্নত করতে পারে।
ReLU অ্যাক্টিভেশন ফাংশন প্রশিক্ষণের সময় অত্যধিক মানসিক চাপ কমিয়ে দিতে পারে।
আরএল দুটি ম্যাপিং মোড আছে: পরিচয় ম্যাপিং এবং অবশিষ্ট ম্যাপিং। জি (এক্স) = এফ (এক্স)-এক্স, এফ (এক্স) = এক্স এর অবশিষ্টাংশ ফাংশন প্রবর্তনের মাধ্যমে জি (এক্স) = 0 তে রূপান্তরিত হয়।
নিয়মিত করা প্রাক-প্রশিক্ষণ এবং ফাইন-টিউনিং প্রোগ্রামগুলি ডিবিএন এর কার্যকারিতা উন্নত করতে পারে;
এসএই প্রশিক্ষণে লেবেল ধারাবাহিকতা সীমাবদ্ধতা যুক্ত করা হয়;
এবং নমুনার মধ্যে পারস্পরিক সম্পর্ক বিবেচনা করা হয়।
5.EXPERIMENT
পরীক্ষা ডেটা সেট
পদ্ধতি তুলনা
এই গবেষণাপত্রে 6 গভীর শিক্ষার শ্রেণিবদ্ধকরণ পদ্ধতি -3-ডি-সিএনএন, গ্যাবার সিএনএন, সিপিএন সহ পিপিএফ, সিয়ামাস সিএনএন (এস-সিএনএন), 3-ডি-গ্যান, গভীর বৈশিষ্ট্যযুক্ত ফিউশন নেটওয়ার্ক (ডিএফএফএন) এবং 4 নিয়ে আলোচনা করা হয়েছে Ditionতিহ্যবাহী শ্রেণিবদ্ধকরণ পদ্ধতিগুলি - এসভিএম, ইএমপি, যৌথ স্পর্শ উপস্থাপনা (জেএসপি), ইপিএফ।
3-ডি-সিএনএন মূল ঘনক্ষেত্র থেকে বর্ণালি-স্থানগত বৈশিষ্ট্যগুলি সরাসরি বের করতে 3-ডি কনভ্যুশন ফিল্টারিং ব্যবহার করে তবে বিভিন্ন স্তরগুলির মধ্যে পারস্পরিক সম্পর্কটিকে উপেক্ষা করে;
ডিএফএফএন কেবলমাত্র ডিআরএন ব্যবহার করে, স্তরগুলির মধ্যে পারস্পরিক সম্পর্ককে বিবেচনায় রেখে এটি বের করা যেতে পারে আরও বৈষম্যমূলক বৈশিষ্ট্য। তবে এটি কৃত্রিম বৈশিষ্ট্যগুলির উপর নির্ভর করে;
গ্যাবার সিএনএন স্থানীয় বৈশিষ্ট্যগুলি আহরণের জন্য গ্যাবার ফিল্টারিং ব্যবহার করে এবং যৌথ গভীর বর্ণালী-স্থানিক বৈশিষ্ট্যগুলি পেতে সিএনএন ব্যবহার করে;
সিএনএন-পিপিএফ এবং এস-সিএনএন উভয়ই নমুনার মধ্যে পারস্পরিক সম্পর্ক বিবেচনা করে। তাদের মধ্যে সিএনএন-পিপিএফ স্থানিক তথ্য বিবেচনা করে না, এস-সিএনএন সরাসরি বর্ণালী-স্থানীয় বৈশিষ্ট্যগুলি বের করার জন্য দ্বি-শাখা সিএনএন ব্যবহার করে, তবে মাত্রাটি খুব বেশি হওয়ায় গণনার পরিমাণও তুলনামূলকভাবে বড়;
3-ডি-জিএন খুব কম সংখ্যক নমুনা সহ, কার্যকরভাবে সিএনএন এর সাধারণীকরণ উন্নতি করতে পারে।
এসভিএম হ'ল বর্ণালী বৈশিষ্ট্য-ভিত্তিক পদ্ধতি E ইএমপি, জেএসপি, এবং ইপিএফ সমস্ত বর্ণাল-স্থানিক বৈশিষ্ট্য-ভিত্তিক পদ্ধতি।
ইএমপি মোড়ফোলজিকাল প্রোফাইল তৈরির জন্য প্রথম তিনটি মূল উপাদান ব্যবহার করে each প্রতিটি প্রধান উপাদানগুলির জন্য, 2 টি ধাপের স্ট্রাকচারাল ইউনিট 4 টি খোলার এবং সমাপনী ক্রিয়াকলাপ সম্পাদন করতে ব্যবহৃত হয়
J জেএসপি পার্শ্ববর্তী স্থানের স্থানিক তথ্য পেতে যৌথ স্পারস নিয়মিতকরণ ব্যবহার করে।
সংক্ষিপ্তসার হিসাবে, এসভিএম এবং সিএনএন-পিপিএফ শ্রেণিবদ্ধকরণের প্রক্রিয়াতে বর্ণালী বৈশিষ্ট্যগুলি ব্যবহার ব্যতীত অন্যান্য পদ্ধতি বর্ণাল-স্থানীয় ফেবারের শ্রেণিবিন্যাস পদ্ধতির উপর ভিত্তি করে।
শ্রেণিবিন্যাস ফলাফল
হিউস্টন ডেটাসেটের জন্য, প্রচুর দৃশ্যমান শব্দের সাথে এসভিএম এবং জেএসপি ফলাফল ভাল নয়। ইপিএফ এবং গ্যাবার-সিএনএন উভয়ই ফিল্টারিং-ভিত্তিক পদ্ধতি E ইএসএফের শ্রেণিবিন্যাসের মানচিত্রটি খুব মসৃণ, অন্যদিকে গ্যাবার-সিএনএন প্রান্তের বিশদটি ধরে রাখে।
3-ডি-ড্যান ব্যতীত অন্যান্য গভীর শেখার পদ্ধতিতে 80% এর চেয়ে বেশি ওএ রয়েছে, যা traditionalতিহ্যগত শ্রেণিবদ্ধকরণ পদ্ধতির চেয়ে বেশি।
গভীর শেখার পদ্ধতিগুলিতে, কেবল বর্ণালি তথ্য বিবেচনা করে সিএনএন-পিপিএফের অন্যান্য পদ্ধতির চেয়ে খারাপ শ্রেণিবিন্যাসের ফলাফল রয়েছে।
ডিএফএফএন আরএল এবং বৈশিষ্ট্য ফিউশনকে একত্রিত করে, ওএ, এএ এবং কাপাতে সর্বোচ্চ নির্ভুলতা অর্জন করে।
পাভিয়া ডেটাसेट এবং স্যালিনাস ডেটাসেট বিশ্ববিদ্যালয়ের জন্য, শ্রেণিবিন্যাসের মানচিত্রের ফলাফল এবং পরিমাণগত ফলাফল উভয় ক্ষেত্রে প্রচলিত শ্রেণিবিন্যাস পদ্ধতির চেয়ে গভীর শেখার পদ্ধতিটি আরও সঠিক।
এসভিএম, ইএমপি, ইপিএফ, এবং এস-সিএনএন সমস্ত এসভিএম-ভিত্তিক শ্রেণিবদ্ধ হয় এবং এস-সিএনএন-এর সর্বাধিক শ্রেণিবিন্যাসের নির্ভুলতা রয়েছে।
ইপিএফ এবং গ্যাবর-সিএনএন উভয়ই ফিল্টারিং-ভিত্তিক পদ্ধতি Gab গ্যাবার-সিএনএন এর ওএ ইপিএফ থেকে 3.5% বেশি, যা সূচিত করে যে ফিল্টার এবং গভীর শিক্ষার সংমিশ্রণের আরও ভাল শ্রেণিবিন্যাসের ফলাফল থাকতে পারে।
যদিও সিএনএন-পিপিএফ কেবল বর্ণালী তথ্য বিবেচনা করে, তবুও এটি traditionalতিহ্যগত শ্রেণিবদ্ধকরণ পদ্ধতির চেয়ে ভাল সম্পাদন করে।
গভীর বৈশিষ্ট্য ভিজ্যুয়ালাইজেশন
শেখার আগে এবং পরে কনভলিউশন কার্নেলের ওজনের তুলনা করে আমরা দেখতে পাচ্ছি যে শেখার পরে কনভলিউশন কার্নেলের ওজনগুলি আরও নিয়মিত।
উপরের দুটি ছবি থেকে এটি দেখা যাবে যে পূর্ববর্তী সমঝোতা স্তরটি মূলত প্রান্ত বা টেক্সচারের তথ্যের মতো সাধারণ বৈশিষ্ট্যগুলি বের করে lower নীচের স্তরের এই বৈশিষ্ট্যগুলি পরবর্তী সংলগ্ন স্তরগুলির মাধ্যমে আরও জটিল উচ্চ-স্তরের বৈশিষ্ট্যে একত্রিত করা যেতে পারে। এই বৈশিষ্ট্যটি সিএনএনগুলি বিভিন্ন পরিস্থিতিতে সমস্যা মোকাবেলার জন্য উপযুক্ত করে তোলে।
সীমাবদ্ধ নমুনার জন্য কৌশলগুলির কার্যকারিতা বিশ্লেষণ
আমরা একটি সাধারণ সিএনএন স্থাপন করি এবং তাদের কার্যকারিতা পরীক্ষা করতে তিনটি কৌশল (ডিএ, টিএল, আরএল) ব্যবহার করি।
সিএনএন-অরিজিনাল, সিএনএন-ডিএ, সিএনএন-টিএল এবং সিএনএন-আরএল স্যালিনাস ডেটাসেটে ব্যবহৃত হয়, যেখানে প্রশিক্ষণ সেটে 5, 10, 15, 20, 25, 30 লেবেলযুক্ত নমুনা / শ্রেণি এবং অন্যান্য লেবেলযুক্ত নমুনাগুলি অন্তর্ভুক্ত থাকে পরীক্ষার সেট ডেটা হিসাবে গণ্য করা হয়।
সিএনএন-টিএল-এ সিএনএন ইন্ডিয়ান পাইনেস প্রাক প্রশিক্ষণ প্রাপ্ত কারণ ভারতীয় পাইাইনস এবং স্যালিনাস চিত্রগুলি একই সেন্সরযুক্ত or
শ্রেণিবিন্যাসের ফলাফলগুলি পর্যবেক্ষণ করে আমরা দেখতে পেলাম যে তিনটি কৌশলই ওএকে উন্নত করতে পারে, এবং সিএনএন-আরএল বেশিরভাগ ক্ষেত্রেই সেরা অভিনয় করে, যা দেখায় যে আরএল একটি খুব কার্যকর নেটওয়ার্ক অপ্টিমাইজেশন পদ্ধতি।
6.CONCLUSION
প্রথমে, আমরা এইচএসআই শ্রেণিবদ্ধকরণ-এসএই, ডিবিএন, সিএনএন, আরএনএন, জিএন তে সাধারণত ব্যবহৃত বেশ কয়েকটি গভীর মডেলগুলি প্রবর্তন করি
এবং তারপরে গভীর শিক্ষণ-ভিত্তিক শ্রেণিবদ্ধকরণ পদ্ধতিগুলিকে তিনটি বিভাগে বিভক্ত করি: বর্ণালী-বৈশিষ্ট্য নেটওয়ার্ক, স্থানিক বৈশিষ্ট্য নেটওয়ার্ক, বর্ণালী - স্থানিক নেটওয়ার্ক।
দ্বিতীয়ত, আমরা গভীর শিক্ষার শ্রেণিবিন্যাস এবং traditionalতিহ্যবাহী শ্রেণিবিন্যাস পদ্ধতির শ্রেণিবিন্যাসের নির্ভুলতার তুলনা করেছিলাম এবং দেখতে পেয়েছি যে গভীর শিক্ষার শ্রেণিবদ্ধকরণ পদ্ধতিগুলি সাধারণভাবে traditionalতিহ্যবাহী শ্রেণিবদ্ধকরণ পদ্ধতির চেয়ে ভাল পারফর্ম করে এবং ডিএফএফএন পদ্ধতিটি আরএল এবং বৈশিষ্ট্য ফিউশন সংমিশ্রণকে সর্বোত্তমভাবে সম্পাদন করে।
এছাড়াও, গভীর বৈশিষ্ট্য এবং নেটওয়ার্কের ওজনগুলি ভিজ্যুয়ালাইজ করা হয়।
তদতিরিক্ত, আমরা ছোট নমুনা মাপের জন্য প্রস্তাবিত বেশ কয়েকটি কৌশল যাচাই করেছিলাম এবং দেখেছি যে আরএল ব্যবহার করে নেটওয়ার্কের কার্যকারিতা আরও উন্নত করতে পারে।
0 comments:
Post a Comment