Manuscript ID : A-10-2571-1 Visit : 6283 Page: 35 - 57

Article Type: Original Research

Feature selection for author identification of Persian online short texts

Subject Areas :

somayeh arefi ¹ , mohamad ehsan basiri ^{2
*} , omid roozmand ³

1 -
2 -
3 -

Received: 2020-08-15 Accepted : 2021-02-11 Published : 2021-09-04

Keywords: text analysis, stylistic analysis, feature extraction, feature selection and author identification.,

Abstract :

The growing use of social media and online communication to express opinions, exchange ideas, and also the expanding use of of this platforms by Persian users has increased Persian texts on the Web. This remarkable growth, along with abusive use of the writer's anonymity, reveals the need for the author's automatic identification system in this language. In this research, the purpose of the study is to investigate the factors affecting the identification of authors of Persian reviews produced by cell-phone buyers and also to evaluate supervised and unsupervised methods. The factors considered in this research include lexical, syntactic, semantic, structural, grammatical, text-specific, and specific to social networks. After extracting these features, selecting the best features is tested by four algorithms including feature correlation, gain ratio, OneR, and principal components analysis. In the following, K-means, EM and density-based clustering will be used for clustering and Bayesian network, random forest, and Bagging will be used for categorization. The evaluation of the above algorithms on Persian comments of Samsung phone buyers indicates that the best performance among the clustering algorithms is 59/16% obtained by the EM algorithm on top-15 features selected by OneR, while the random forest algorithm using top-90 features selected by gain ratio with 79/57% achieves the best performance among the classification algorithms. Also, the comparison of features showed that syntactic features had the most effect on the identification of the author of short texts, and then, lexical, text-specific, specific to social networks, structural, grammatical and semantic features, respectively.

References:

مرادي، مهدی و بحراني، محمد، “تشخيص خودکار جنسيت نويسنده در متون فارسي”، فصل‌نامه پردازش علائم و داده‌ها، شماره 4، پیاپی 26، صفحات 83-94، 1394.
[2] فرهمندپور، زینب، نیک‌مهر، هومان، منصوری زاده، محرم و طبیب زاده قمصری، اميد، “يک سيستم نوين هوشمند تشخيص هويت نويسنده فارسي زبان بر اساس سبک نوشتاري-مقاله برگزيده هفدهمين کنفرانس ملي انجمن کامپيوتر ايران”، مجله محاسبات نرم، شماره دوم، صفحات 35-26، 1391.
[3] F. Iqbal, H. Binsalleeh, B. C. M. Fung, and M. Debbabi, “Mining writeprints from anonymous e-mails for forensic investigation,” Digit. Investig., vol. 7, no. 1–2, pp. 56–64, 2010.
[4] S. Nirkhi, R. V Dharaskar, and V. M. Thakare, “Authorship Verification of Online Messages for Forensic Investigation,” Procedia Comput. Sci., vol. 78, pp. 640–645, 2016, doi: https://doi.org/10.1016/j.procs.2016.02.111.
[5] M. L. Brocardo, I. Traore, and I. Woungang, “Authorship verification of e-mail and tweet messages applied for continuous authentication,” J. Comput. Syst. Sci., vol. 81, no. 8, pp. 1429–1440, 2015.
[6] Y. Yiming and P. Jan O., “A Comparative Study on Feature Selection in Text Categorization,” Proceeding ICML ’97 Proc. Fourteenth Int. Conf. Mach. Learn., vol. 53, no. 9, pp. 412–420, 1997.
[7] M. Frederick and L. Wallace David, “Inference and Disputed Authorship: The Federalist. Reading, Addison.” Wessley Publishing Company. Republié sous le titre Applied Bayesian and …, 1984.
[8] T. C. Mendenhall, “The Characteristic Curves of Composition,” Science (80-. )., vol. 9, no. 214, pp. 237–249, Dec. 1887, [Online]. Available: http://www.jstor.org/stable/1764604.
[9] H. Craig, “Authorial attribution and computational stylistics: If you can tell authors apart, have you learned anything about them?,” Lit. Linguist. Comput., vol. 14, no. 1, pp. 103–113, 1999.
[10] M. Koppel and J. Schler, “Authorship verification as a one-class classification problem,” in Proceedings of the twenty-first international conference on Machine learning, 2004, p. 62.
[11] E. Villar-Rodriguez, J. Del Ser, M. N. Bilbao, and S. Salcedo-Sanz, “A feature selection method for author identification in interactive communications based on supervised learning and language typicality,” Eng. Appl. Artif. Intell., vol. 56, pp. 175–184, 2016, doi: https://doi.org/10.1016/j.engappai.2016.09.004.
[12] P. Geutner, U. Bodenhausen, and A. Waibel, “Flexibility through incremental learning: Neural networks for text categorization,” in Proceedings of WCNN-93, World Congress on Neural Networks, 1993, pp. 24–27.
[13] O. De Vel, “Mining e-mail authorship,” 2000.
[14] M. Corney, O. De Vel, A. Anderson, and G. Mohay, “Gender-preferential text mining of e-mail discourse,” in 18th Annual Computer Security Applications Conference, 2002. Proceedings., 2002, pp. 282–289.
[15] F. Iqbal, R. Hadjidj, B. C. M. Fung, and M. Debbabi, “A novel approach of mining write-prints for authorship attribution in e-mail forensics,” Digit. Investig., vol. 5, pp. S42–S51, 2008.
[16] A. Abbasi and H. Chen, “Writeprints: A stylometric approach to identity-level identification and similarity detection in cyberspace,” ACM Trans. Inf. Syst., vol. 26, no. 2, pp. 1–29, 2008.
[17] F. Iqbal, L. A. Khan, B. C. M. Fung, and M. Debbabi, “E-Mail Authorship Verification for Forensic Investigation,” in Proceedings of the 2010 ACM Symposium on Applied Computing, 2010, pp. 1591–1598, doi: 10.1145/1774088.1774428.
[18] B. Allison and L. Guthrie, “Authorship Attribution of E-Mail: Comparing Classifiers over a New Corpus for Evaluation.,” 2008.
[19] N. Cheng, R. Chandramouli, and K. P. Subbalakshmi, “Author gender identification from text,” Digit. Investig., vol. 8, no. 1, pp. 78–88, 2011.
[20] X. Chen, P. Hao, R. Chandramouli, and K. P. Subbalakshmi, “Authorship similarity detection from email messages,” in International Workshop on Machine Learning and Data Mining in Pattern Recognition, 2011, pp. 375–386.
[21] J. Keeshin, Z. Galant, and D. Kravitz, “Machine Learning and Feature Based Approaches to Gender Classification of Facebook Statuses.” 2010.
[22] R. Layton, P. Watters, and R. Dazeley, “Authorship Attribution for Twitter in 140 Characters or Less,” in 2010 Second Cybercrime and Trustworthy Computing Workshop, Jul. 2010, pp. 1–8, doi: 10.1109/CTC.2010.17.
[23] C. Li, A. Sun, and A. Datta, “Twevent: Segment-Based Event Detection from Tweets,” in Proceedings of the 21st ACM International Conference on Information and Knowledge Management, 2012, pp. 155–164, doi: 10.1145/2396761.2396785.
[24] J. S. Li, J. V Monaco, L.-C. Chen, and C. C. Tappert, “Authorship authentication using short messages from social networking sites,” in 2014 IEEE 11th International Conference on e-Business Engineering, 2014, pp. 314–319.
[25] A. Zubiaga, D. Spina, R. Martínez, and V. Fresno, “Real‐time classification of twitter trends,” J. Assoc. Inf. Sci. Technol., vol. 66, no. 3, pp. 462–473, 2015.
[26] A. Orebaugh, “An Instant Messaging Intrusion Detection System Framework: Using character frequency analysis for authorship identification and validation,” in Proceedings 40th Annual 2006 International Carnahan Conference on Security Technology, 2006, pp. 160–172.
[27] O. Canales et al., “A stylometry system for authenticating students taking online tests,” P. Student-Faculty Res. Day, Ed., CSIS. Pace Univ., 2011.
[28] C.-Y. Lai, “Author Gender Analysis’,” Final Proj. from I, vol. 256, 2009.
[29] H. Alam and A. Kumar, “Multi-lingual author identification and linguistic feature extraction—A machine learning approach,” in 2013 IEEE International Conference on Technologies for Homeland Security (HST), 2013, pp. 386–389.
[30] J. Adams, H. Williams, J. Carter, and G. Dozier, “Genetic Heuristic Development: Feature selection for author identification,” in 2013 IEEE Symposium on Computational Intelligence in Biometrics and Identity Management (CIBIM), 2013, pp. 36–41.
[31] J. Houvardas and E. Stamatatos, “N-gram feature selection for authorship identification,” in International conference on artificial intelligence: Methodology, systems, and applications, 2006, pp. 77–86.
[32] A. K. Uysal and S. Gunal, “A novel probabilistic feature selection method for text classification,” Knowledge-Based Syst., vol. 36, pp. 226–235, 2012, doi: https://doi.org/10.1016/j.knosys.2012.06.005.
[33] زنگويي، سمیرا، نعمتی شمس‌آباد، حسنعلی “شناسايي نويسندگان پيام هاي الکترونيکي از طريق واکاوي نوع و سبک نگارش آن ها مبتني بر روش هاي يادگيري ماشين(WKF based on SVM-PHGS) ”، پردازش و مديريت اطلاعات (علوم و فناوري اطلاعات)، شماره 2، دوره 29، صفحات 476-453، 1392.
[34] G. U. Yule, “The statistical study of literary vocabulary. Cambridge, Cambridge [Eng.].” University Press. Journal of the Royal Statistical Society, 1944.
[35] A. Honoré, “Some simple measures of richness of vocabulary,” Assoc. Lit. Linguist. Comput. Bull., vol. 7, no. 2, pp. 172–177, 1979.
[36] E. Brunet, Le Vocabulaire de Jean Giraudoux: structure et évolution : statistique et informatique appliquées à l’étude des textes à partir des données du Trésor de la langue française. Slatkine, 1978.
[37] H. S. Sichel, “On a Distribution Law for Word Frequencies,” J. Am. Stat. Assoc., vol. 70, no. 351a, pp. 542–547, 1975, doi: 10.1080/01621459.1975.10482469.
[38] E. H. SIMPSON, “Measurement of Diversity,” Nature, vol. 163, no. 4148, p. 688, 1949, doi: 10.1038/163688a0.
[39] S. Nemati, M. E. Basiri, N. Ghasem-Aghaee, and M. H. Aghdam, “A novel ACO–GA hybrid algorithm for feature selection in protein function prediction,” Expert Syst. Appl., vol. 36, no. 10, pp. 12086–12094, 2009, doi: https://doi.org/10.1016/j.eswa.2009.04.023.

Full-Text:

الگوي تهيه مقالات

دو فصلنامه علمي

فناوري اطلاعات و ارتباطات ایران

سال سیزدهم،شماره‌هاي47و48،بهار و تابستان 1400

صص: 57_35

$E:\E Drive\logo\iicta Logo0.JPG$

انتخاب ویژگی برای شناسایی نویسنده در متون کوتاه برخط فارسی

سمیه عارفی* محمد احسان بصیری** امید روزمند***

* کارشناس ارشد مهندسي فناوري اطلاعات، مؤسسه آموزش عالي صفاهان، اصفهان

** استادیار، دانشکده فني و مهندسي، دانشگاه شهرکرد

*** استادیار، گروه مهندسي كامپيوتر، پرديس شهرضا، دانشگاه اصفهان

تاریخ دریافت: 25/05/1399 تاریخ پذیرش: 23/11/1399

نوع مقاله: پژوهشی

چكیده

رشد فزاينده‏ي استفاده از رسانه‌هاي اجتماعي و ارتباطات برخط به‌منظور بيان نظرات، تبادل عقايد و همچنين گسترش استفاده‏ي کاربران فارسي زبان از اين ابزارها باعث افزايش متون فارسي در وب شده است. اين رشد چشمگير در کنار سوءاستفاده‏هاي ناشي از ناشناس بودن نويسنده‏ي نوشته‏ها نياز به سامانه‏ي خودکار شناسايي نويسنده در اين زبان را بيش از پيش آشکار مي‌سازد. هدف از اين پژوهش، بررسي ويژگي‌هاي مؤثر در شناسايي نويسندگان نظرات فارسي توليد شده توسط خريداران گوشي و همچنین ارزیابی روش‌های نظارتی و غیرنظارتی می‌باشد. عواملي که در اين پژوهش بررسي مي‏شود شامل ويژگي‌هاي لغوي، نگارشی، معنايي، ساختاري، دستوري، مختص متن و مختص شبکه‌هاي اجتماعي است. پس از استخراج ويژگي‌هاي مذکور، انتخاب ويژگي‌هاي برتر توسط چهار الگوريتم همبستگي ويژگي، نسبت بهره، OneR و تحليل اجزاي اصلي آزمايش مي‏شود. در ادامه از الگوريتم‏هاي خوشه‏بندي مبتني بر چگالي، K-means و EM براي خوشه‌بندي و الگوريتم‏هاي شبکه‏ي بيز، جنگل تصادفي و Bagging براي دسته‏بندي استفاده خواهد شد. ارزيابي الگوريتم‌هاي فوق بر روي نظرات فارسي مربوط به خريداران گوشي‌هاي سامسونگ نشان مي‏دهد که بهترين تشخيص در بين الگوريتم‏هاي خوشه‏بندي با دقت 16/59% مربوط به الگوريتم EM روي 15 ويژگي‌ برتر انتخابي توسطOneR است درحالي‌که الگوريتم جنگل تصادفي به‌همراه نسبت بهره برای 90 ویژگی با دقت 57/79% بهترين کارايي را در بين الگوريتم‏هاي دسته‏بندي دارد. همچنين مقايسه‌ی ويژگي‌ها نشان داد که ويژگي‌هاي نگارشی بيشترين تأثير را در شناسايي نويسنده‏ي متون کوتاه داشته و پس از آن‌ به ترتيب ويژگي‌هاي لغوي ، مختص متن، مختص شبکه‌های اجتماعی، ساختاري، دستوري و معنایی قرار گرفتند.

واژگان کلیدی: تحليل متن، تحليل سبک، استخراج ويژگي، انتخاب ويژگي و شناسايي نويسنده.

نویسنده مسئول: محمد احسان بصیری basiri@eng.sku.ac.ir

1 مقدمه

بروز مسائل و مشکلات امنيتي و جرائم الکترونيکي از قبيل فعاليت‌هاي تروريستي، باج‌خواهي، حق‌السکوت، نامه‌هاي تهديد ‌آميز ناشناس، سرقت متون ادبي و علمي و مسائلي از اين قبيل موجب ايجاد دلهره در کاربران به هنگام استفاده از ابزارهاي شبکه‌هاي اجتماعي، نامه‌هاي الکترونيکي، پيام‌رسان‏هاي برخط و به‌طورکلي محيط‌هاي ارتباطي و اطلاعاتي شده است. امروزه شناسايي خودکار نويسنده‏ي اين متون ناشناس به يک ابزار ارزشمند جهت حمايت از پژوهش‏هاي مربوط به حوزه‏ي جرم و جنايت و امنيت مبدل گرديده است.

با گسترش استفاده از اينترنت، ارتباطات برخط و شبکه‌هاي اجتماعي، خدمات مبتني بر وب به‌عنوان يکي از مؤثرترين ابزارها جهت ارسال اطلاعات متني و محتويات توليد شده توسط کاربر تبديل شده‌اند. بيشتر اين خدمات به کاربر اجازه مي‌دهند که هويت واقعي خود را مخفي کرده، با هويت جعلي وارد فضاي مجازي شده ]1[ و به‌صورت ناشناس يا تحت نام مستعار با ارائه‏ي اطلاعات نادرست در وبلاگ‌ها، وب‌سايت‌ها و نامه‌هاي الکترونيکي مرتکب اقدامات خراب‌کارانه شوند ]2[؛ که اين امر موجب برانگيختن رعب و وحشت و عدم اطمينان در ميان کاربران مي‌گردد. در چنين فضايي، مجرمان با مخفي کردن هويت اصلي خود و ارائه‏ي اطلاعات نادرست در مورد جنسيت، مکان، سن، سطح تحصيلات و مليت خود، آزادانه به بيان عقايد و نظراتشان پرداخته و مرتکب اقدامات خرابکارانه مي‏شوند ]1[. همچنين گروه‌هاي تروريستي و جنايي از نامه‌هاي الکترونيکي به‌عنوان يک کانال امن براي ارتباطات مخفي خود استفاده مي‏کنند ]3[ و نفوذگرها به‌منظور انجام فعاليت‌هاي غيرقانوني و ارتکاب جرائم زيربنايي مانند انتقال کرم، ويروس، تروجان و ديگر بدافزارهاي قابل اجرا روي اينترنت، کاربران فضاي مجازي را هدف قرار مي‏دهند. نامه‌هاي تبليغاتي، نامه‌هاي تهديد‌آميز، بدگویی‌های نژادی و هرزه‌نگاري رايج‌ترين نمونه‌هاي سوءاستفاده از نامه‌هاي الکترونيکي مي‌باشند. علاوه‌بر‌اين، به‌دليل بين المللي بودن جرائم سايبري، مسائل چند‌زبانگي نيز به يک چالش جديد براي تحليل هويت نويسنده تبديل شده است ]4[. به‌دليل بروز چنين مسائلي، شناسايي مشخصات توليد‌کنندگان محتوا و اهمیت حفاظت از این فضا هر روز پر‌رنگ‌تر و نياز به شناسايي خودکار نويسنده‏ي متون بيش از پيش آشکار مي‌گردد.

تحليل هويت نويسنده تا کنون در سه زمينه‏ي پژوهشي مختلف شامل شناسايي هويت نويسنده¹، تأييد هويت نويسنده² و توصيف شخصيت نويسنده³ دسته‌بندي و مورد مطالعه قرار‌گرفته است ]4[. شناسايي هويت نويسنده، به مقايسه‏ي يک سند بي‌نام و نشان با اسناد موجود پرداخته و به بررسي اين‌که آيا آن‌ها توسط يک نويسنده‌ی واحد توليد شده‌اند يا خير مي‌پردازد ]5[. مطالعاتي که تا کنون در اين زمينه صورت گرفته به شناسايي راه‌هايي جهت شناسايي الگوهاي ارتباطات تروريسم، کشف سرقت متون ادبي و علمي، حل مشاجرات در نوشته‌هاي ادبي و تاريخي يا نگارش موسيقي پرداخته است. تأييد هويت نويسنده، توسط مقايسه‏ي نمونه نگارش شخص مدعي با ساير نوشته‌هاي وي به اثبات اين‏که آيا يک سند ناشناس توسط همان شخص نوشته شده است يا خير مي‌پردازد و تعيين خصوصياتي مثل جنسيت، سن و سطح تحصيلات نويسنده‏ي يک سند ناشناس در حوزه‏ي توصيف شخصيت نويسنده قرار مي‌گيرد ]4[ و ]5 [.

با این فرض، كه هر نويسنده سبك نوشتاري مخصوص به خود را دارد و از كلمات خاصي استفاده مي‌كند كه نوشته‌اش را منحصربه‌فرد مي‌سازد، استخراج ويژگي‌هايي از درون متون، گزينه‌اي مناسب جهت شناسايي نويسنده مي‌باشد ]6[. انتخاب اين ويژگي‌هاي متمايز‌ كننده، با استفاده از برخي روش‏هاي آماري و يادگيري ماشين صورت مي‌گيرد. اين ويژگي‌ها که مطابق نظر پژوهشگران مشخص مي‌شود، شامل ويژگي‌هاي لغوي، نحوي، معنايي، ساختاري، دستوري، مختص متن و مختص شبکه‌هاي اجتماعي مي‌باشد. مطالعاتی که تا کنون در اين زمينه صورت گرفته بيانگر اين مطلب است که استفاده از ويژگي‌هاي سبک‌شناسي بهترين شيوه جهت شناسايي نويسنده‏ي متون مي‌باشد ]5[ و ]6[.

تجزيه و تحليل متون جهت شناسايي نويسنده‏ي ناشناس، از ابتداي قرن 19 به‌صورت سنتي آغاز گرديد و توزيع طول کلمات، از اولين ويژگي‌هاي مورد استفاده جهت شناسايي نويسنده‌ی متون در اين دوره بوده است. با حضور رايانه، شناسايي خودکار نويسنده توسط تحليل متون با استفاده از ويژگي‌هايي از سبک نگارش نويسنده ميسر گرديد. نخستين مطالعات صورت گرفته در این زمینه مربوط به استفاده از لغات دستوري با استفاده از طبقه‌بند بيز ساده بوده است که از اين روش آماري جهت شناسايي هويت نويسندگان مقالات فدراليست استفاده شد ]7 [.

گروه ديگري از مطالعات که در سال‌هاي اخير توجه بيشتري را به خود جلب کرده‌اند، با استفاده از ويژگي‌هاي سبک‌شناسي و با اعمال روش‌هاي يادگيري ماشين و متن‌کاوي به بررسي و ايجاد مدل‏هايي براي تعيين ميزان تأثير ويژگي‌هاي مختلف بر روي شناسايي نويسنده‏ي ناشناس پرداخته ‌و با استفاده از روش‌هاي جديد به ارزيابي و انتخاب مناسب‌ترين ويژگي‌‌ها جهت حل مسئله‏ي شناسايي نويسنده‌ی متون پرداخته‌اند.

به‌دليل تفاوت‌هاي بنيادي در قواعد دستوري زبان انگليسي با زبان فارسي، مطالعات کم‌تري در زمينه‌ي طراحي ابزارهاي ماشيني و محاسباتي مرتبط با زبان فارسي صورت گرفته ]2[ که اين امر موجب بروز چالش‌هايي در فاز پيش‌پردازش داده‌هاي متني، از جمله ريشه‌يابي و برچسب‌گذاري اجزای کلام مي‌گردد. علي‌رغم چنين کاستي‌هايي، نياز به وجود سيستمي جامع و هوشمند براي کمک به مراجع قضايي و تحقيقاتي جهت شناسايي مجرمان سايبري و نويسنده‌ی مطالب بازنويسي شده و هرزنامه‌ها در سايت‌ها و شبکه‌هاي اجتماعي، ضرورت انجام پژوهش در زمينه‌ی شناسايي نويسنده‌ی متون کوتاه در زبان فارسي را آشکار مي‌سازد.

با توجه به اين‌که پژوهش‌هاي صورت گرفته در زبان فارسي در گذشته، اغلب بر روي متون ساختارمند و طولاني بوده و تنها از ويژگي‌هاي سنتي جهت شناسايي نويسنده‌ی متون استفاده شده است؛ در اين پژوهش، تمرکز ما بر روي متون کوتاه برخط شامل نظرات فارسي توليد شده توسط خريداران گوشي مي‌باشد که جهت دقيق‌تر شدن کار شناسايي نويسنده‌ی متون کوتاه، علاوه بر استفاده از ويژگي‌هاي سنتي متداول که در گذشته بر روي متون فارسي مورد استفاده قرار گرفته است، ويژگي‌هاي مختص شبکه‌هاي اجتماعي را نيز به مجموعه‌ ويژگي‌ها افزوديم تا با استفاده از الگوريتم‌هاي انتخاب ويژگي‌ مناسب بر روي ويژگي‌هاي استخراج شده و اعمال الگوريتم‌هاي خوشه‌بندي و دسته‏بندي، به مقايسه‌ي کارايي الگوريتم‏هاي نظارتي و غيرنظارتي پرداخته و همچنین ويژگي‏هاي مؤثر در شناسايي نويسندگان متون کوتاه را بر اساس سبک نگارش افراد مورد بررسی قرار دهیم.

به‌صورت خلاصه، نوآوری‏های پژوهش جاری به‌صورت زیر می‌باشد:

· ارائه‌ی مجموعه داده‌ی نظرات فارسی در رابطه با محصولات گوشي‌هاي سامسونگ، مربوط به سال‌هاي 2015 و 2016.

· پیشنهاد استفاده از ويژگی‏های مختص شبکه‌های اجتماعی در کنار سایر ویژگی‌های سنتی.

· مقایسه‌ی ويژگی‏های مختلف و انتخاب ترکیب مناسب آن‏ها برای شناسایی نویسنده‌ی متون کوتاه.

ادامه‏ي مقاله به شرح ذيل سازماندهي گرديده است. در بخش دوم، مباني نظري و پيشينه‌ی پژوهش ارائه خواهد شد و در بخش سوم، روش پژوهش و ويژگي‌هاي سبک‌شناسي مورد استفاده جهت شناسايي نويسنده‌ی‌ متون کوتاه بيان مي‏گردد. بخش چهارم به پياده‌سازي، بخش پنجم به تحليل نتايج، بخش ششم به بحث اختصاص داده شده و درنهايت، بخش هفتم به نتيجه‌گيري پرداخته شده است.

2 پیشینه پژوهش

شناسايي نويسنده با استفاده از ويژگي‌هاي سبک نوشتاري، شامل استخراج ويژگي‌هاي موجود در متن می‌باشد، به‌طوري‌که بتوان با استفاده از اين ويژگي‌ها، بين متوني که توسط افراد مختلف نوشته شده تمايز قائل شد. استفاده از ويژگي‌هاي سبک‌شناسي جهت شناسايي نويسنده سابقه‌اي طولاني دارد. سير تکاملي اين حوزه را مي‌توان در چهار دوره مورد بررسي قرار داد. نخستين پژوهش‏هاي صورت گرفته در اين زمينه، به قرن 19 ميلادي باز مي‌گردد که در آن زمان مندنهال ]8 [به‌منظور تشخيص اشعار مورد ترديد ويليام شکسپير و فرانسيس بيکن، از توزيع طول کلمات جهت شناسايي نويسنده‌ی متون استفاده نمود.

نخستين پژوهش‌هاي غير‌سنتي در اين زمينه، با کمک رايانه و با استفاده از مدل‌هاي احتمالاتي توسط موستلر و والاس در سال 1964 انجام شد. اين مطالعات که با استفاده از طبقه‌بند بيز ساده و لغات دستوري بر روي مجموعه مقالات فدراليست صورت گرفت، مؤثر بودن کلمات تابع⁴ در حل مسئله‏ي شناسايي نويسنده را به اثبات رساند ]7[. کرايگ در سال 1999 براي شناسايي نويسنده‌ی متون از تکيه‏کلام‌هاي افراد که در حقيقت همان عادات نوشتاري افراد مي‌باشند، استفاده نمود. وي با استفاده از تجزيه و تحليل نمايشنامه‌هاي ميدلتون توماس و ديگران، رابطه‌اي که ميان هويت و خصوصيات نگارش افراد وجود دارد را اثبات کرد ]9[. کوپل و همکارانش در سال 2004، ماشين بردار پشتيبان با هسته‌ی خطي را بر روي ويژگي‌هاي لغوي شامل 250 کلمه‏ي پرتکرار استخراج شده از 21 کتاب انگليسي نوشته شده توسط 10 نويسنده‌ی مختلف به‌کار بردند و با ناديده گرفتن نمونه‌هاي منفي، تعيين هويت نويسنده را به‌عنوان يک مسئله‌ی طبقه‌بندي تک کلاسه نشان دادند. آن‌ها متن را به بخش‌هايي با 500 کلمه‏ي تقريباً مساوي تقسيم کرده و اختلاف بين سند نمونه توليد شده مشکوک و کاربران ديگر را سنجيده و به دقت 7/95% دست يافتند ]10[.

با ظهور اينترنت و وب جهاني و درنهايت، با حضور رسانه‌هاي شبکه‌هاي اجتماعي و پيام‌رساني تعاملي و پويا، تجزيه و تحليل اسناد الکترونيکي و پيام‌هاي برخط به يک حوزه‌ی پژوهشي جديد در زمينه‌ی شناسايي نويسنده‌ی متون کوتاه مبدل گرديد ]11[.

از آن زمان تاکنون، با استفاده از مجموعه ويژگي‌هاي سبک‌شناسي و روش‌هاي طبقه‌بندي متفاوت، پژوهش‌هاي فراواني بر روي مجموعه داده‌هاي مختلف شامل نامه‌هاي الکترونيکي، گروه‌هاي خبري، متون برخط، پست‌هاي شبکه‌هاي اجتماعي، مقالات، پيام‌هاي کوتاه، وبلاگ‌ها، وب‌سايت‌ها و کتاب‌ها صورت گرفته است که در ادامه، به بررسی ويژگي‌هاي استخراج شده از این متون و نتایج حاصل از اعمال الگوریتم‌های متفاوت بر روی این مجموعه داده‌ها می‌پردازیم.

2.1 مجموعه داده‌هاي مربوط به نامه‌های الکترونیکی

بيشترين پژوهش‌هاي انجام شده در اين زمينه، به دسته‌بندي و شناسايي نويسنده‌ي نامه‌هاي الکترونيکي مي‌پردازد. نخستين پژوهش‌هاي انجام شده بر روی این مجموعه داده در سال 1993 توسط گوتنر و همکارانش صورت گرفت که با استفاده از فرهنگ واژگان به‌همراه شبکه عصبي⁵ دقت 1/79% را نتيجه گرفتند ]12[. دي ول در سال 2000 مدل دسته‌بندي ماشين بردار پشتيبان⁶ را روي مجموعه‌اي از ويژگي‌هاي ساختاري و نحوي به‌منظور تحليل هويت نويسنده‏ي نامه‌هاي الکترونيکي ناشناس به‏کار برد و دريافت که با افزايش تعداد کلمات تابع از 122 به 320 کارايي دسته‌بند وخيم‌تر مي‌گردد و نه تنها افزودن ويژگي‌هاي بيشتر جهت بهبود دقت لازم نيست، بلکه افزودن ويژگي‌هاي بي‌فايده ممکن است موجب کاهش دقت دسته‌بند گردد ]13[.

در سال 2002، کورني و همکارانش با استفاده از نامه‌هاي‌ الکترونيکي به بررسي رابطه‏ي بين سبک نگارش افراد با سطح تحصيلاتشان پرداختند. آن‌ها 253 نامه‌ی‌ الکترونيکي 200 تا 500 کلمه‌اي مربوط به چهار کاربر را توسط ويژگي‌هاي سبک‌شناسي، ساختاري و کلمات تابع به‌همراه ماشين بردار پشتيبان آزمايش کرده و دقت 2/70 درصد را نتيجه گرفتند و دريافتند که با افزايش تعداد نويسندگان، کاهش طول اسناد و همچنين کاهش اندازه‏ي مجموعه‏ي آموزشي، دقت دسته‌بندي کاهش مي‌يابد ]14[.

اقبال و همکارانش در سال 2008 براي اولين بار از يک روش داده‌کاوي مبتکرانه به‌نام «چاپ‌نوشته⁷» استفاده کردند. اين روش شامل ترکيباتي از ويژگي‌هاي منحصربه‌فرد استخراج شده از متن است که به‌طور مکرر در نوشته‌هاي يک شخص اتفاق مي‌افتد و همانند اثر انگشت بوده و نگارش فرد را از ديگران متمايز مي‌کند ]15[. چن و عباسي نيز در همان سال به‌منظور شناسايي و کشف شباهت نگارش از چاپ‏نوشته در آزمايش‏هايشان استفاده کردند. آن‌ها به‌منظور انتخاب ويژگي‌هاي برتر از الگوريتم تحليل اجزاي اصلي⁸ استفاده کرده و جهت کشف شباهت اجزاء، يک موجوديت⁹ ناشناس را انتخاب نموده و آن را با تمام موجوديت‌هاي ديگر مقايسه کرده و يک رتبه محاسبه نمودند؛ اگر رتبه بالاتر از مقدار از پيش تعريف شده بود، موجوديت ناشناس در دسته‌اي با موجوديت تطبيق شده دسته‌بندي مي‌شد ]16[. اقبال و همکارانش در ادامه‌ی تحقيقات خود در سال2010، آزمايش‏هاي تجربي خود را بر روي 200 نامه‌ی الکترونيکي 628 تا 1342 کلمه‌اي با استفاده از 292 ويژگي استخراج شده شامل ويژگي‌هاي لغوي، نحوي، خطاهاي دستور زباني و املايي و ويژگي‌هاي وابسته به محتوا را با دو روش متفاوت روي مجموعه داده مديريت کردند و نرخ خطاي 1/17% تا 4/22 درصد را نتيجه گرفتند ]17[. آن‌ها در همان سال در آزمايشي ديگر، با استفاده از الگوريتم‌هاي خوشه‌بندي K-means، EM و Bisecting K-Means و ترکيبي از چهار ويژگي ساختاري، لغوي، نحوي و مختص محتوا و استخراج چاپ‌نوشته‌ي مربوط به نويسندگان نامه‌هاي‌ الکترونيکي، به ارزيابي ويژگي‌هاي سبک‌شناسي و تأثير تعداد پيام‌هاي هر نويسنده پرداختند ]3[. آليسون و گوتري در سال 2008 با استفاده از ماشين بردار پشتيبان و مجموعه ويژگي‌هاي نحوي، 63 ويژگي مربوط به شمارش تعداد کلمات پرسشي زبان و ويژگي‌هاي n-تايي (2-تايي و 3-تايي) براي 8 نويسنده با تعداد 174 تا 706 نامه‌ی الکترونيکي براي هر نويسنده و طول وبلاگ‌هاي100 تا 600 کلمه، به شناسايي نويسنده يادداشت‌ها و وبلاگ‌ها پرداخته و ميانگين دقت 74/86 درصد را کسب نمودند ]18[.

چنگ و همکارانش در سال 2011 آزمايش‌هاي خود را بر روي نامه‌هاي الکترونيکي و مجموعه‌ی خبري رويترز با استفاده از ماشين بردار پشتيبان انجام دادند و دقت‌هاي 23/82% و 75/76% را به‌دست آوردند ]19[. در سال 2011 چن و همکارانش به بررسي شباهت نگارش نامه‌هاي الکترونيکي مربوط به 40 نويسنده پرداختند و بدين منظور از 150 ويژگي سبک‌شناسي شامل 40 ويژگي لغوي، 9 ويژگي ساختاري، 76 ويژگي نحوي و 25 ويژگي وابسته به محتوا براي تأييد هويت نويسنده استفاده، و براي بلاک‌هاي 30 تا 50 کلمه‌اي با استفاده از ماشين بردار پشتيبان براي 10 نمونه دقت 90/83% و دقت 31/88% را براي 15 نمونه نتيجه گرفتند ]20[. بروکاردو و همکارانش در سال 2015 تحقيقات خود را بر روي نامه‌هاي الکترونيکي و توئيت‌هاي 40، 280 و 500 کلمه‌اي با استفاده از ويژگي سبک‌شناسي شامل 528 ويژگي علامت‌محور، 75 ويژگي کلمه‌محور، 632 ويژگي نحوي، 7 ويژگي وابسته به کاربرد و n-تايي‌هاي استخراج شده با استفاده از ماشين بردار پشتيبان انجام دادند و نرخ خطاي متغير از 98/9% تا ٪21/45 را نتيجه گرفتند ]5[. نيرخي و همکارانش در سال 2016 روش‌هاي غير‌نظارتي خوشه‌بندي سلسله مراتبي¹⁰ شامل روش همجوشي¹¹ و روش جداگر¹² را به‌همراه رتبه‌بندي چندبعدي¹³ براي نگاشت متون به فضاي دو بعدي روي نامه‌هاي الکترونيکي به‌منظور تعيين هويت نويسنده به‌کار ‌بردند ]4[.

2.2 مجموعه داده‌هاي مربوط به رسانه‌هاي شبکه‌هاي اجتماعي

گسترش استفاده از رسانه‌هاي شبکه‌هاي اجتماعي در اين سال‌ها، و بروز مشکلات و جرائم الکترونيکي موجب شد محققان کارهاي پژوهشي خود را بر روي چنين مجموعه داده‌هايي متمرکز کنند. در سال 2010 جرمي و همکارانش به‌منظور شناسايي نويسندگان استاتوس‌هاي فيس‌بوک با استفاده از دسته‌بندهاي بيز ساده و پرسپترون به ترتيب دقت‌هاي 7/67% و 59% را نتيجه گرفتند ]21[. در همان سال، لايتون و همکارانش به‌منظور احراز هويت کاربران توئيتر، آزمايش‌هاي خود را بر روي 120 توئيت با حدبيشتر طول 140 علامت مربوط به 50 کاربر، با استخراج n-تايي (3-تايي) و با استفاده از الگوريتم‏ K-means انجام داده و دقت 70 درصد را به‌دست آوردند ]22[. لي و همکارانش در سال 2012، تکنيک انتخاب ويژگي غيرنظارتي را براي رسانه‌هاي اجتماعي پيشنهاد کردند که بر ‌اساس مدل احتمالاتي ابتدا ويژگي‌هاي بالقوه اجتماعي براي هر مورد به‌دست آمده، سپس اهميت هر ويژگي اندازه‌گيري شده و فضاي ويژگي به‌صورت ماتريس چند‌بعدي تعريف مي‌گردد. هرگاه ويژگي جديدي دريافت ‌شود، يک آزمون براي پذيرش يا رد ويژگي انجام مي‏شود. اگر ويژگي‌ها پذيرفته شوند، مدل دوباره بهينه‌سازي مي‌گردد و همچنين امکان حذف ويژگي‌هايي که قبلاً انتخاب شده بود نيز وجود دارد ]23[.

در سال 2014، لي و همکارانش به‌منظور احراز هويت نويسنده پست‌هاي شبکه‌هاي اجتماعي، پست‌هاي 30 کاربر فيس‌بوک که به‌طور ميانگين از 6/20 کلمه تشکيل شده بود را مورد مطالعه قرار داده و از 233 ويژگي سبک‌شناسي شامل 50 ويژگي علامت‌محور، 18 ويژگي کلمه‌محور، 158 ويژگي نحوي، 1 ويژگي ساختاري و 6 ويژگي مختص شبکه‌هاي اجتماعي استفاده و آزمايش‌هاي خود را با روش‌هاي متفاوتي تکرار کردند و بهترين نرخ دقت 6/79% به هنگام ترکيب ويژگي‌هاي مختص شبکه‌هاي اجتماعي و سبک‌شناسي سنتي به‌‌دست آوردند. آن‌ها با استفاده از SVM Light دقت ٪78/9 را براي ويژگي‌هاي سبک‌شناسي سنتي و دقت 8/69% را براي ويژگي‌هاي مختص شبکه‌هاي اجتماعي به‌طور مجزا به‌دست آوردند و دريافتند که ترکيب اين ويژگي‌ها دقت بالاتري را نتيجه مي‌دهد. آن‌ها به‌طورکلي دريافتند که افزايش تعداد کاربران موجب کاهش دقت دسته‌بندي شده و ترکيب ويژگي‌هاي سبک‌شناسي و مختص شبکه‌هاي اجتماعي موجب افزايش دقت و استفاده از ويژگي‌هاي مجزا موجب کاهش دقت مي‌گردد و همچنين تعداد ويژگي‌هاي بيشتر موجب انحراف استاندارد کمتر و دقت بيشتر مي‌شود. علاوه‌بر‌اين، نتايج نشان داد که ويژگي‌هاي علامت‌محور جهت شناسايي نويسنده‌ی متون کوتاه معيار مطلوب‌تري نسبت به کلمه‌محور مي‌باشد. همچنين براي مقايسه‌ی الگوريتم ماشين بردار پشتيبان با ساير الگوريتم‌ها، آزمايش‌هاي خود را با الگوريتم K- نزديک‌ترين همسايه تکرار کرده و به دقت 5/65% دست يافتند ]24[.

زوبياگا و همکارانش در سال 2015 روشي جهت دسته‌بندي توئيت‌هاي جهان واقعي در چهار دسته‌ی اخبار، حوادث، يادداشت‌ها و يادبودها توسط تعيين مجموعه‌ی کوچکي از ويژگي‌هاي مستقل زباني پيشنهاد کردند. بدين منظور از ويژگي‌هايي شامل عناصر لغوي، هش‌تگ‌ها، URLها، فهرست واژگان، علامات سؤال و تعجب استفاده کردند. چهار ويژگي که روش آن‌ها را جهت دسته‌بندي توئيت‌هاي جهان واقعي مناسب مي‌سازند عبارتند از: مجموعه ويژگي‌هاي کوچک مورد نياز که مي‌تواند به‌طور واضح محاسبه ‌گردد، بهبودبخشي قدرت تأثیر محتوا، هزينه‌ی محاسباتي خطي براي تعداد توئيت‌هاي تحليل شده و بدون تغيير ماندن تعداد ويژگي‌هاي باقي مانده علي‌رغم تعداد نمونه‌ها. به‏هرحال، به‌دليل اين‌که ويژگي‌ها به‌طور اختصاصي طراحي شده بودند، کاربردي بودن آن‌ها جهت استفاده در زمينه‌هاي ديگر ممکن نبود ]25[.

2.3 مجموعه داده‌های مربوط به وبلاگ‌ها، وب‌سايت‌ها، گروه‌هاي خبري، پيام‌هاي آني و متون برخط

ساير مجموعه داده‌هاي مورد استفاده در پژوهش‌هاي اخير شامل وبلاگ‌ها، وب‌سايت‌ها، گروه‌هاي خبري، پيام‌هاي آني و متون برخط مي‌باشد که اين مجموعه داده‌ها در زبان‌هاي مختلف مورد بررسي قرار گرفته‌اند. در سال 2006، آنژلا با استفاده از دسته‌بند بيز ساده به‌همراه استخراج 69 ويژگي سبک‌شناسي شامل ساختار جمله، علامت‌هاي خاص از پيش تعريف شده مربوط به احساسات، مخفف‌ها و تحليل تکرار علائم بر روي چهار پيام آني، يک چارچوب سامانه کشف نفوذ پيام آني ايجاد کرده و بهترين دقت با ميانگين 68 درصد را نتيجه گرفت ]26[.

در سال 2011، کانالز و همکارانش به‌منظور تأييد هويت نويسندگان متون از 40 نمونه متن که به‌صورت برخط جمع‌آوري شده بودند استفاده کرده و يک دسته‌بند K-نزديک‌ترين همسايه¹⁴ را با 82 ويژگي سبکي شامل 62 ويژگي لغوي (49 ويژگي علامت‌محور¹⁵، 13 ويژگي کلمه‌محور) و‌ 20 ويژگي نحوي آموزش دادند و نرخ خطاي 25/20% تا 18/4% را به‌دست آوردند و دريافتند که نه تنها ويژگي‌هاي نحوي لزوماً بيانگر سبک نگارشي افراد نبوده، بلکه اين مجموعه ويژگي‌ها جهت تأييد هويت نويسنده کافي نيست و بايد ويژگي‌هاي ديگري نيز به مجموعه ويژگي‌ها افزوده شود ]27[.

در سال 2009، لاي جهت شناسايي نويسندگان وبلاگ‌ها با استفاده از طبقه‌بند بيز، دقت 69 درصد را نتيجه گرفت ]28[. آلام و كومار در سال 2013 ويژگي‌هاي معنايي نوين را براي كمك به سيستم شناسايي نويسنده براي زبان عربي توسعه دادند. بدين منظور، از تجزيه كننده‌هاي مختص پردازش زبان طبيعي، واژگان، پردازش معنايي، انتساب نقش موضوعي، هيوريستيك‌هاي معنايي و تكنيك‌هاي يادگيري ماشين استفاده كردند و همچنين ماشين بردار پشتيبان را براي طبقه‌بندي داده‌هاي متني به گروه‌هاي مختلف بر اساس سبك نگارش به‌همراه ويژگي‌هاي لغوي، نحوي، ساختاري، معنايي و مختص متن به‌كار بردند. آن‌ها آزمايش‌هاي خود را بر روي مقالات وب‌سايت عربي در حوزه‌ي تروريسم و نظم و قانون انجام دادند؛ بدين صورت که ابتدا هر ويژگي را به‌طور مجزا مورد بررسي قرار داده و پس از ترکيب تمام ويژگي‌ها به دقت 98% دست يافتند ]29[.

در همين سال آدامز و همكارانش، جهت بهينه‌سازي جست‌و‌جو براي افزايش دقت شناسايي، از تركيب روش‌هاي الگوريتم ژنتيک¹⁶ و تکاملي¹⁷ استفاده کردند. سپس به‌منظور بهبود فرايند تطبيق، توسعه‌ي اکتشافي ژنتيک¹⁸ را معرفي کرده و آزمايش‌هاي خود را بر روي ويژگي‌هاي استخراج شده از ‌نوشته‏هاي مربوط به وبلاگ خبري Huffingtonpost.com و CNN.comشامل 170 ويژگي لغوي به‌همراه نشانه‌هاي نقطه‌گذاري، 21 ويژگي ساختاري و 122 کلمه‏ي تابع انجام داده و ميانگين دقت‌هاي 50/21%، ٪43/43 و 57 درصد را براي آزمايش‌هاي حالت‌ پايه، تركيب روش‌هاي الگوريتم ژنتيک و تکاملي و توسعه‌ي اکتشافي ژنتيک به‌دست آوردند و دريافتند که اين روش به‌طور موفق دقت تشخيص را افزايش مي‌دهد درحالي‌که به‌صورت چشمگير تعداد خصوصيات مورد نياز جهت تشخيص را کاهش مي‌دهد ]30[.

در سال 2006، استاماتاتوس و هووارداس n-تايي¹⁹ با طول متغير را بر روي مجموعه داده رويترز به‌كار بردند. آن‌ها از بهره‌ی اطلاعاتي²⁰ براي انتخاب ويژگي و از ماشين بردار پشتيبان با هسته‌ی خطي به‌منظور دسته‌بندي استفاده کرده و به دقت 08/73% دست يافتند ]31[.

در سال 2012 گونال و يوسال يک روش جديد احتمالاتي انتخاب ويژگي به‌نام انتخابگر ويژگي متمايز²¹ را به‌منظور انتخاب ويژگي پيشنهاد کردند و بدين منظور دسته‌بندهاي ماشين بردار پشتيبان، شبکه عصبي و درخت تصميم را بر روي چهار‌ مجموعه داده رويترز، گروه‌هاي خبري، خدمات پيام کوتاه و نامه‌هاي الکترونيکي آزمايش کرده و به‌منظور اثبات کارايي روش پيشنهادي، با تکرار آزمايش‌ها دريافتند که روش پيشنهاديشان از لحاظ دقت دسته‌بندي و زمان پردازش، عملکردي رقابتي با ساير روش‌ها داشته است ]32[.

2.4 مجموعه داده‌هاي مربوط به پژوهش‌های صورت گرفته در زبان فارسی

در سال‌هاي اخير در زمينه‌ي شناسايي نويسنده در متون فارسي نيز تحقيقاتي بر روي مقالات، متون ادبي و پيام‌هاي الکترونيکي صورت گرفته است. در سال 1391، فرهمندپور و همكارانش از ويژگي‌هاي لغوي، نحوي، معنايي و وابسته به كاربرد جهت شناسايي هويت نويسنده استفاده كرده، كارايي اين ويژگي‌ها و روش‌هاي K-نزديک‌ترين همسايه، دلتا و الگوريتم ژنتيک را بر روي دو پايگاه داده شامل متون مربوط به دانشجويان دانشگاه بوعلي سينا و مقالات مربوط به 8 نويسنده‌ي هم‌عصر، بررسي كرده و به دقت‌هاي 50 تا 100 درصد دست يافتند] 2[. يک سال بعد، زنگويي و شمس آباد، جهت شناسايي نويسندگان پيام‌هاي الکترونيکي مربوط به 50 نفر از مشتريان بالقوه‌ی وب‌سايت آمازون، روش‌ يادگيري ماشين به‌نام تجميع هسته‌هاي وزن‌دار²² را پيشنهاد کردند. آن‌ها در ابتدا ويژگي‌هاي لغوي، نحوي، ساختاري و خاص متن را به‌صورت مجزا به‌کار برده و سپس با استفاده از يک روند تکاملي ويژگي‌ها را اضافه نموده و درنهايت آزمايش‌هاي خود را با ترکيبي از با استفاده از دسته‌بندهاي ماشين بردار پشتيبان، تجميع هسته‌هاي وزن‌دار، شبکه عصبي و C4.5 به پايان رسانده و دقت‌هاي 69/97%، ٪98/78، ٪96/66 و 36/93 درصد را نتيجه گرفتند] 33[. مرادي و بحراني در سال 1394 با استفاده از ويژگي‌هاي سبک‌شناسي و روان‌شناختي به تشخيص جنسيت نويسنده پرداختند. بدين منظور مطالعات خود را بر روي متون ادبي فارسي (داستان و رمان) و نظرات کاربران در سايت هلوکيش با استفاده از ماشين بردار پشتيبان، درخت تصميم و بيز ساده به انجام رساندند و دقت ٪71/6، ٪73/6 و 3/66 درصد براي پيکره متون و دقت 8/58%، ٪63 و 53 درصد را براي پيکره نظرات نتيجه گرفتند] 1[.

به‌منظور مقايسه‌ی نتايج پژوهش‌هاي صورت گرفته تا کنون، چند نمونه از آن‌ها در جداول 1 و 2 آورده شده است.

به‌طورکلي مي‏توان گفت در سال‌هاي اخير توجه بيشتري به شناسايي نويسنده در چارچوب کاربردهاي عملي مثل بررسي نويسنده پيام‌هاي الکترونيکي، شناسايي الگوهاي تروريسم، حل مشاجرات تاريخي و ادبي، موارد دادگاهي، کشف سرقت ادبي و علمي در مقالات دانشجويي و توصيف شخصيت نويسنده صورت گرفته است. بدين صورت که ابتدا ويژگي‌هاي برتر استخراج شده، سپس الگوريتم‌هاي انتخاب ويژگي‌ مناسب بر روي اين ويژگي‌ها اعمال شده و درنهايت با استفاده از الگوريتم‌هاي خوشه‌بندي يا دسته‏بندي مناسب، به شناسايي نويسندگان پرداخته شده است.

جدول 1. نتايج مربوط به پژوهش‌هاي انجام شده در زبان‌های مختلف .

مرجع	مجموعه داده	ويژگي	روش	دقت
]3[	نامه‌هاي الکترونيکي	لغوي، نحوي، ساختاري، وابسته به محتوا	EM, K-means, Bisecting K-Means	نرخ‌خطا -73/0 80/0 -73/0 88/0 -75/0 83/0
]4[	نامه‌هاي الکترونيکي	لغوي	خوشه‌بندي سلسله مراتبي، رتبه‌بندي چندبعدي
]5[	نامه‌هاي الکترونيکي، توئيت‌ها	لغوي (n-تايي)، نحوي، ساختاري، وابسته به محتوا	ماشين بردار پشتيبان	02/90 55/78
]10[	21 کتاب انگليسي مربوط به 10نويسنده	لغوي	ماشين بردار پشتيبان با هسته‌ی خطي	7/95
]12[	نامه‌هاي الکترونيکي	لغوي (فرهنگ واژگان)	شبکه عصبي	۱/۷۹
]13[	نامه‌هاي الکترونيکي	ساختاري، نحوي	ماشين بردار پشتيبان
]14[	253 نامه‌ی الکترونيکي مربوط به ۴ کاربر	ساختاري، کلمات تابع	ماشين بردار پشتيبان	۲/۷۰
]18[	174 تا 706 نامه‌ی الکترونيکي مربوط به ۸ نويسنده	لغوي(n-تايي و کلمه‌هاي پرسشي)، نحوي	ماشين بردار پشتيبان	۷۴/۸۶
]20[	نامه‌هاي الکترونيکي مربوط به 40 نويسنده	لغوي، نحوي، ساختاري، وابسته به محتوا	ماشين بردار پشتيبان	90/83 31/88
]22[	120 توئيت مربوط به 50 کاربر	لغوي(n-تايي)	k-نزديک‌ترين همسايه	70
]24[	پست‌هاي 30 کاربر فيس‌بوک	لغوي، نحوي، ساختاري، مختص شبکه‌هاي اجتماعي	SVM Light, k-نزديک‌ترين همسايه	9/78 8/69 5/65
]26[	پيام‌هاي آني	ساختاري، علامت‌هاي خاص	بيز ساده	۶۸
]27[	40 نمونه متن جمع‌آوری شده به صورت برخط	لغوي، نحوي	k-نزديک‌ترين همسايه	82/95 75/79
]29[	مقالات وب سايت عربي	لغوي، نحوي، ساختاري، معنايي، مختص متن	SVM Light	98
]30[	وبلاگ خبري Huffington post.com, CNN.com	لغوي، نشانه‌هاي نقطه‌گذاري، ساختاري، کلمات تابع	الگوريتم ژنتيک و تکاملي، توسعه‌ي اکتشافي ژنتيک	43/43 57
]31[	مجموعه خبري رويترز	لغويn) -تايي با طول متغير)	ماشين بردار پشتيبان با هسته‌ی خطي + بهره‌ی اطلاعاتي	08/73
]32[	مجموعه‌ی خبري رويترز، گروه‌هاي خبري، خدمات پيام کوتاه، نامه‌هاي الکترونيکي	لغوي (فرهنگ واژگان)	ماشين بردار پشتيبان، شبکه عصبي، درخت تصميم

جدول 2. نتايج مربوط به پژوهش‌هاي انجام شده در زبان فارسی.

مرجع

مجموعه داده

ويژگي

روش

دقت

] 1[

متون ادبي فارسي (داستان و رمان فارسي)

لغوي،

نحوي،

ساختاري،

دستوري،

نشانه‌هاي رواني-زباني

ماشين بردار پشتيبان،

بيز ساده،

درخت تصميم

6/71

3/66

6/73

نظرات کاربران در سايت هلو کيش

8/58

] 2[

متون مربوط به دانشجويان دانشگاه بوعلي سينا،

لغوي،

نحوي،

معنايي،

وابسته به كاربرد

دلتا

k-نزديک‌ترين همسايه

الگوريتم ژنتيک + دلتا

الگوريتم ژنتيک + k-نزديک‌ترين همسايه

مقالات مربوط به 8 نويسنده‌ي هم‌عصر

100

5/87

100

] 33[

پيام‌هاي الکترونيکي مربوط به 50 نفر از مشتريان بالقوه‌ی وب‌سايت آمازون

لغوي،

نحوي،

ساختاري،

خاص متن

ماشين بردار پشتيبان،

تجميع هسته‌هاي وزن‌دار،

شبکه عصبي،

C4.5

69/97

78/98

66/96

36/93

اين پژوهش

نظرات فارسي مربوط به خريداران گوشي‌های سامسونگ

لغوي،

نگارشی،

معنايي،

ساختاري،

دستوري،

مختص متن،

مختص شبکه‌هاي اجتماعي

خوشه‏بندي مبتني بر چگالي + تحليل اجزاي اصلي،

خوشه‏بندي

مبتني بر چگالي + همبستگي ويژگي،

K-means + نسبت بهره،

EM + OneR

25/55

55/56

15/59

شبکه‏ي بيز + همبستگی ويژگي،

Bagging + OneR,

جنگل‌تصادفی + تحليل اجزاي اصلي،

جنگل‌تصادفي + نسبت بهره

67/70

07/76

87/77

57/79

نتايج به‌دست آمده از تحقيقات گذشته گوياي اين مطلب است که تکنيک‌هاي انتخاب ويژگي سنتي که در تحقيقات گذشته جهت شناسايي نويسنده‌ی متون ساختارمند و طولاني مورد استفاده قرار گرفته و دقت بالايي داشته‌اند، در ‌مورد متون کوتاه از دقت و کارايي کمتري برخوردارند و مي‌توان با افزودن ويژگي‌هاي مختص شبکه‌هاي اجتماعي به مجموعه ويژگي‌هاي سنتي، تا حدي اين مشکل را برطرف نمود.

با توجه به اين‌که پژوهش‌هاي صورت گرفته در زبان فارسي در گذشته، اغلب بر روي متون ساختارمند و طولاني بوده که تنها از ويژگي‌هاي سنتي جهت شناسايي نويسنده‌ی متون استفاده شده است؛ در اين پژوهش، تمرکز ما بر روي متون کوتاه برخط مي‌باشد که جهت دقيق‌تر شدن کار شناسايي نويسنده‌ی متون کوتاه، علاوه بر استفاده از ويژگي‌هاي سنتي متداول که در گذشته بر روي متون فارسي مورد استفاده قرار گرفته است، ويژگي‌هاي مختص شبکه‌هاي اجتماعي را نيز به مجموعه ويژگي‌ها افزوديم تا ضمن بررسي تأثير اين ويژگي‌ها، به مقايسه‌ي کارايي الگوريتم‏هاي نظارتي و غيرنظارتي بپردازيم.

3 روش پژوهش

پژوهشگران به‌منظور ايجاد امنيت در فضاي مجازي، به دنبال ابزارهايي براي جلوگيري از برخي سوءاستفاده‌ها در اين فضا مي‌باشند. بدين منظور جهت شناسایی نويسنده‌ی سندهای ناشناس شامل نامه‌هاي الکترونيکي، وبلاگ‌ها، وب‌سايت‌ها، متون برخط، پست‌هاي شبکه‌هاي اجتماعي، پيام‌هاي کوتاه، مقالات، گروه‌هاي خبري و کتاب‌ها روش‌هاي مختلفي مورد بررسي قرار گرفته که عموماً برمبناي الگوريتم‌هاي يادگيري ماشين بوده و شامل روش‌هاي يادگيري نظارتي و غير‌نظارتي مي‌باشند.

3.1 انتخاب نوع الگوریتم

روش‏هاي يادگيري نظارتي زماني مناسب هستند که برچسب داده‌هاي آموزشي از قبل شناخته شده است. در بيشتر پژوهش‌هاي صورت گرفته تاکنون، الگوريتم‌هاي يادگيري نظارتي به‌طور عمده مورد استفاده قرار گرفته‌ و تأثيرات ويژگي‌هاي سبک‌ نگارشي متفاوت با استفاده از دسته‌بندهاي ماشين بردار پشتيبان و درخت تصميم مورد بررسي قرار گرفته‌اند] 30.[

روش‌هاي يادگيري غير‌نظارتي نيازي به برچسب‌گذاري داده از قبل ندارند، بلکه شناسايي بر پايه مقايسه شباهت بين يک سند ناشناخته مفروض در برابر اسناد شناخته شده با استفاده از ويژگي‌هاي متفاوت است، به‌طوري‌که سند ناشناخته در همان دسته‌اي قرار گيرد که توسط همان نويسنده نوشته شده است] 4.[ به‌دليل اين‌که بيشتر متون در فضاي وب به‌صورت ناشناس منتشر مي‌گردند و اطلاعات اندکي در رابطه با نويسندگان حقيقي متون در دسترس مي‌باشد، جهت طبقه‌بندي نويسندگان، روش‏هاي غيرنظارتي بر روي ويژگي‌هاي استخراج شده از نمونه‌ها اعمال شده و کار خوشه‌بندي آن‌ها به گروه‌هاي مختلف صورت مي‌گيرد.

در اين پژوهش با توجه به دردسترس بودن مجموعه داده‏‌ی برچسب‏گذاري شده براي نوشته‏هاي فارسي، هم از روش‏هاي نظارتي و هم از روش‏هاي غيرنظارتي استفاده خواهد شد و نتايج حاصل از ارزیابی‌ها با یکدیگر مقايسه مي‏شوند. فرايند کلي شناسايي نويسنده‌ی متون در شکل 1 بيان شده است.

شکل 1. فرايند شناسايي نويسنده.

3.2 ویژگي‌هاي سبک‌شناسي

مطالعه‏ي ويژگي‌هاي سبک‌شناسي نشان مي‌دهد که مي‌توان با استفاده از سبک نگارشي افراد که نسبتاً ثابت مي‌باشد، به شناسايي نويسنده‏ي متون پرداخت. اين ويژگي‌ها، مربوط به سبک نگارشي نويسندگان بوده که از قبل توسط پژوهشگران تعريف شده‌اند. بر اين ‌اساس، هفت ويژگي شامل ويژگي‌هاي لغوي، نگارشی، ساختاري، دستوري، معنايي، ويژگي‌هاي مختص شبکه‌هاي اجتماعي و مختص متن جهت انجام اين پژوهش مورد استفاده قرار گرفت. جداول 3 تا 9 شامل فهرست کلي ويژگي‌هاي استخراج شده از متن در اين پژوهش مي‌باشند.

· ويژگي‌هاي نگارشی: اين ويژگي‌ها ساختار جمله را از ديدگاه نشانه‌هاي نقطه‌گذاري، تعريف مرزها و نوع جملات (پرسشي، تعجبي و خبري) توسط شکستن پاراگراف به جمله و جملات به نشانه‌هاي متفاوت، بيان کرده و شامل نشانه‌هاي نقطه‌گذاري و تعداد تکرار کلمات تابع مي‌باشد] 5[. کلمات تابع، که به‌صورت ناخودآگاه توسط نويسنده توليد مي‌شوند، مستقل از موضوع بوده و از نظر معنايي کم‌ارزش مي‌باشند؛ اما به‌دليل استفاده‏ي مکرر نويسنده از اين کلمات و توزيع فراوان آن‌ها در متن، اين ويژگي مي‌تواند نتايج خوبي در تشخيص سبک نگارش افراد داشته باشد ]2[.

· ويژگي‌هاي معنايي: اين ويژگي‌ها که کلمات و عباراتي که جمله‌واره‌ها را به هم مربوط مي‌کنند، به‌عنوان 3 ويژگي مورد استفاده در اين پژوهش مي‌باشند که شامل افزوده‌هاي ربطي تشريحي، گسترشي و تفضيلي مي‌باشند

· ويژگي‌هاي ساختاري: اين ويژگي‌ها ترکيبي از جملات و پاراگراف‌ها و همچنين نحوه‏ي سازماندهي جملات درون پاراگراف‌ها و پاراگراف‌ها درون اسناد و به‌طورکلي، چيدمان متن توسط نويسنده مي‌باشند.

· ويژگي‌هاي لغوي: اين ويژگي‌ها به دو دسته‏ي علامت‌محور و کلمه‌محور دسته‌بندي مي‌شوند. در ويژگي‌هاي علامت‌محور، متن به‌صورت رشته‌اي از علائم درنظر گرفته مي‌شود. ويژگي‌هاي کلمه‌محور، متن را به‌صورت يک رشته از کلمات درنظر مي‌گيرند و شامل 18 ويژگي از جمله پرمايگي واژگان شامل توابع يول] 34[، هونور] 35[، برونت] 36[، سيشل] 37[ و سيمسون] 38[ مي‌باشند که در روابط 1 تا 5 بيان گرديده‌اند.

(1)	Yules K = 104(-
(2)	Honores R =
(3)	Brunet w =
(4)	Sicheles S =
(5)	Simpsons D =

که در اين روابط، V تعداد کلمات يکتا، α پارامتر ثابت با مقدار 17/0، N تعداد کل کلمات، i مرتبه تکرار، HL تعداد کلمات با يک‌بار تکرار و HD تعداد کلمات با دو بار تکرار مي‌باشد.

· ويژگي‌هاي مختص شبکه‌هاي اجتماعي: اين ويژگي‌ها بيانگر حالت روحي نويسنده با استفاده از نماد‌ها بوده و شامل نماد‌هاي متن‌محور، نماد‌هاي متفرقه، شکلک‏هاي مثبت، خنثي و منفي مي‌باشند. نماد‌هاي متن محور مانند :-) و موارد مشابه که نشانه حالت لبخند، خيلي‌شاد، اخم، عصباني، ناراحت و گريان هستند در جدول 10 و شکلک‌ها شامل علامت‌هايي با يونيکدهاي معين، در جدول 11 مشخص شده‌اند.

· ويژگي‌هاي دستوري: اين ويژگي‌ها، مربوط به دستور زبان بوده و شامل کلماتي است که از لحاظ معنايي، معناي واژگاني کمي داشته و براي نشان دادن روابط دستوري بين کلمات مورد استفاده قرار مي‌گيرند] 1[.

· ويژگي‌هاي مختص متن: اين ويژگي‌ها به‌منظور نمايش دقيق‌تر تفاوت سبک افراد در حوزه‌ی خاصي به‌کار مي‌روند. انتخاب چنين ويژگي‌هايي وابسته به حوزه‌هاي کاربرد بوده و با توجه به زمينه متن انتخاب مي‌گردند. در اين پژوهش با توجه به مجموعه داده، انواع گوشي‌ها و تکيه کلام‌هاي افراد به‌عنوان ويژگي‌هاي منحصربه‌فرد در نظر گرفته شده است.

جدول 3. مجموعه ويژگي‌هاي نگارشی.

ويژگي‌هاي نگارشی
F81	تعداد کل علائم نقطه‌گذاري ÷ تعداد کل علائم
F82	تعداد کاما ÷ تعداد کل علائم
F83	تعداد نقطه ÷ تعداد کل علائم
F84	تعداد دونقطه ÷ تعداد کل علائم
F85	تعداد سميکلون ÷ تعداد کل علائم
F86	تعداد علامت سؤال ÷ تعداد کل علائم
F87	تعداد علامت تعجب ÷ تعداد کل علائم
F88	تعداد علامت سؤال سه‌تايي ÷ تعداد کل علائم
F89	تعداد علامت تعجب سه‌تايي ÷ تعداد کل علائم
F90	تعداد سه‌نقطه ÷ تعداد کل علائم
F91	تعداد علامت کاما سه‌تايي ÷ تعداد کل علائم
F92	تعداد علامت نقل قول ÷ تعداد کل علائم
F93	تعداد کلمات تابع ÷ تعداد کل کلمات

جدول 4. مجموعه ويژگي‌هاي معنايي.

ويژگي‌هاي معنايي
F118	افزوده‌هاي ربطي تشريحي ÷ تعداد کل کلمات
F119	افزوده‌هاي ربطي گسترشي ÷ عداد کل کلمات
F120	افزوده‌هاي ربطي تفضيلي ÷ تعداد کل کلمات

جدول 5. مجموعه ويژگي‌هاي ساختاري.

ويژگي‌هاي ساختاري
F94	تعداد کل خطوط ÷ تعداد کل علائم
F95	تعداد کل خطوط ÷ تعداد کل کلمات
F96	تعداد کل جملات ÷ تعداد کل علائم
F97	تعداد کل جملات ÷ تعداد کل کلمات
F98	تعداد علامت enter ÷ تعداد کل علائم
F99	تعداد جملات بدون نقطه پاياني

جدول6. مجموعه ويژگي‌هاي لغوي.

ويژگي	توضيح ويژگي
ويژگي‌هاي علامت‌محور
F1	تعداد آدرس‌هاي URL
F2	تعداد کل اعداد ÷ تعداد کل علائم
F3	تعداد کل حروف بزرگ انگليسي ÷ تعداد کل علائم
F4	تعداد کل حروف کوچک انگليسي ÷ تعداد کل علائم
F5	تعداد کل حروف انگليسي ÷ تعداد کل علائم
F6	تعداد کل حروف فارسي و انگليسي ÷ تعداد کل علائم
F7	تعداد کل حروف فارسي ÷ تعداد کل علائم
F8	تعداد کل کلمات ÷ تعداد کل علائم
F9	تعداد کل علامت‌هاي خاص ÷ تعداد کل علائم
F10- F34	تعداد هر يک از علامت‌هاي خاص ÷ تعداد کل علائم خاص
F35- F60	تعداد هر يک از حروف انگليسي(A-Z , a-z) ÷ تعداد کل علائم
F61	تعداد علامت فاصله ÷ تعداد کل علائم
F62	تعداد علامت نيم‌فاصله ÷ تعداد کل علائم
ويژگي‌هاي کلمه‌محور
F63	تعداد کلمات فارسي ÷ تعداد کل کلمات
F64	تعداد کلمات انگليسي ÷ تعداد کل کلمات
F65- F67	تعداد کلمات کوتاه (1،2و3 حرفي) ÷ تعداد کل کلمات
F68- F70	تعداد کلمات طولاني (6،7 و بيشتر از 8 حرفي) ÷ تعداد کل کلمات
F71	تعداد کلمات با يک بار تکرار ÷ تعداد کل کلمات
F72	تعداد کلمات با دو بار تکرار ÷ عداد کل کلمات
F73	تعداد کلمات يکتا ÷ تعداد کل کلمات
F74- F75	تعداد کلمات پر‌تکرار (7 و بيشتر از8) ÷ تعداد کل کلمات
F76	معيار Sichel
F77	معيار Honore
F78	معيار Brunet
F79	معيار Yule
F80	معيار Simpson

جدول 7. مجموعه ويژگي‌هاي مختص شبکه‌هاي اجتماعي.

ويژگي‌هاي مختص شبکه‌هاي اجتماعي
F121	تعداد کل نماد‌هاي متن‌محور ÷ تعداد کل علائم
F122	تعداد کل شکلک‌ها ÷ تعداد کل علائم
F123	تعداد کل نماد‌هاي متفرقه ÷ تعداد کل علائم
F124	تعداد کل شکلک‌هاي مثبت ÷ تعداد کل علائم
F125	تعداد کل شکلک‌هاي خنثي ÷ تعداد کل علائم
F126	تعداد کل شکلک‌هاي منفي ÷ تعداد کل علائم

جدول 8. مجموعه ويژگي‌هاي دستوري.

ويژگي‌هاي دستوري
F100	تعداد اسامي ÷ تعداد کل کلمات
F101	تعداد حروف اضافه ÷ تعداد کل کلمات
F102	تعداد حروف ربط ÷ تعداد کل کلمات
F103	تعداد حروف ندا ÷ تعداد کل کلمات
F104	تعداد ضماير فاعلي ÷ تعداد کل کلمات
F105	تعداد ضماير مفعولي ÷ تعداد کل کلمات
F106	تعداد ضماير اشاره ÷ تعداد کل کلمات
F107	تعداد ضماير پرسشي ÷ تعداد کل کلمات
F108	تعداد کلمات مربوط به قطعيت ÷ تعداد کل کلمات
F109	تعداد کلمات مربوط به شک و ترديد ÷ تعداد کل کلمات
F110	تعداد کلمات مربوط به رنگ‌ها ÷ تعداد کل کلمات
F111	تعداد ضماير ÷ تعداد کل کلمات
F112	تعداد صفات ÷ تعداد کل کلمات
F113	تعداد قيود ÷ تعداد کل کلمات
F114	تعداد گروه اسمي
F115	تعداد گروه فعلي
F116	تعداد گروه قيدي
F117	تعداد گروه صفتي يا مسندي

جدول 9. مجموعه ويژگي‌هاي مختص متن.

ويژگي‌هاي مختص متن
F127	تعداد کلمات مربوط به متن ÷ تعداد کل کلمات
F128	تعداد گوشي‌هاي سري A ÷ کلمات مربوط به متن
F129	تعداد گوشي‌هاي سري C ÷ کلمات مربوط به متن
F130	تعداد گوشي‌هاي سري E ÷ کلمات مربوط به متن
F131	تعداد گوشي‌هاي سري J و G ÷ کلمات مربوط به متن
F132	تعداد گوشي‌هاي سري S ÷ کلمات مربوط به متن
F133	تعداد گوشي‌هاي سري Note ÷ کلمات مربوط به متن
F134	تعداد تکيه کلام‌ها ÷ تعداد کل کلمات

جدول 10. شکلک‏ها.

:-) :) :o) :] :3 :c) :> =] 8) =) :} :^) :-d :d 8-d 8d x-d xd X-d xd =-d =d =-3 =3 b^d :-)) ^_^ (^_^)/ (^^)/(^o^) >^_^< (^.^) (^_^.) (^_^) (^^) ;;) ^_^ (#^.^#)(y) ;d :* :") (^0^) ;) :') !(^^)! (*^^)v (^^)v (^_^)v	Positive
>:[ :-( :( :-c :c :-< -_,- :< :-[ :[ :{ :-\|\| :@ qq (>_<)(>_<)> -____- </3.___. :]x \m/ :\| (/_;) (t_t) (;_;)(;_:) (;o;) (:_;) (tot) -___- (-.-) (-_-) x_x --" -__- :/ (_) (_; (+_+) (@_@) :-/ -_- (~o~) (~_~) :-\| :'( ._.	Negative
:o :p	Neutral

جدول 11. يونيکد نماد‌هاي احساسي.

\U+1F600\U+1F601\U+1F602\U+1F923\U+1F603\U+1F604\U+1F605\U+1F606\U+1F609\U+1F60A\U+1F60B\U+1F60E\U+1F60D\U+1F618\U+1F617\U+1F619\U+1F61A\U+F263A\U+1F642\U+1F917\U+1F929

Face positive

\U+1F914\U+1F928\U+1F610\U+1F611\U+1F636\U+1F644\U+1F60F\U+1F623\U+1F625\U+1F62E\U+1F910\U+1F62F\U+1F62A\U+1F62B\U+1F634\U+1F60C\U+1F61B\U+1F61C\U+1F61D\U+1F924\U+1F612\U+1F613\U+1F614\U+1F615\U+1F643\U+1F911\U+1F632

Face neutral

\U+2F639\U+1F641\U+1F616\U+1F61E\U+1F61F\U+1F624\U+1F622\U+1F62D\U+1F626\U+1F627\U+1F628\U+1F629\U+1F92F\U+1F62C\U+1F630\U+1F631\U+1F633\U+1F92A\U+1F635\U+1F621\U+1F620\U+1F92C

Face negative

3.3 انتخاب ویژگی‌ها

در بسياري موارد پس از مرحله استخراج ويژگي، با داده‌هايي با ابعاد زياد مواجه هستيم که کارايي الگوريتم يادگيري را کاهش داده و به مشکل بيش‌برازش²³ منجر مي‌گردند. بنابراين، انتخاب ويژگي‌هاي مرتبط و ضروري در مرحله‌ی پيش‌پردازش از اهميتي بنيادين برخوردار است. در اين مرحله، با انتخاب زيرمجموعه‌اي از ويژگي‌هاي اوليه، ابعاد داده‌ها کاهش مي‌يابد] 39.[ برخلاف روش‌هاي مبتني بر استخراج ويژگي، اين نوع روش‌ها معناي اصلي ويژگي‌ها را بعد از کاهش حفظ مي‌کنند. الگوريتم‏هاي انتخاب ويژگي همان‌گونه که در شکل 2 نشان داده شده است به سه دسته‏ي فيلتر، بسته‏بند²⁴ و توکار²⁵ تقسيم مي‏شوند] 39.[ در روش اول، الگوريتم مستقل از دسته‏بند است و در روش‏هاي دوم و سوم همان‏گونه که در شکل مشخص شده است، براي انتخاب ويژگي با دسته‏بند در تعامل است.

چهار الگوريتم‌ انتخاب ويژگي که در اين پژوهش مورد استفاده قرار گرفته شامل همبستگي ويژگي²⁶ با تابع ارزياب بر اساس همبستگي با فيلد هدف، نرخ بهره²⁷ با تابع ارزياب بر اساس آنتروپي با فيلد هدف، OneR با تابع ارزياب شامل يک دسته‏بند ساده و الگوريتم تحليل اجزاي اصلي با تابع ارزياب بر اساس کوواريانس مي‌باشند.

شکل 2. انواع الگوريتم‏هاي انتخاب ويژگي.

الگوريتم همبستگي ويژگي يک الگوريتم از نوع فيلتر است که بر اساس ميزان همبستگي بين ويژگي‏ها کار مي‏کند. در اين الگوريتم، بر اساس رابطه‏ي 6 ابتدا ضريب همبستگي پيرسون براي دو ويژگي X و Y به‏صورت زير محاسبه مي‏شود:

(6)

ρ =

که در اين رابطه cov کوواريانس و σ واريانس است. سپس بر اساس مقدار به‏دست آمده که عددي بين 1- و 1 است ميزان همبستگي و درنتيجه تکراري بودن ويژگي‏ها مشخص مي‏شود.

الگوريتم نرخ بهره نسخه‏ي نرمال شده‏ي الگوريتم بهره‏ي اطلاعاتي است. براي نرمال‏سازي در اين الگوريتم، مقدار بهره‏ي اطلاعاتي بر آنتروپي ويژگي نسبت به دسته تقسيم مي‏شود. اين کار با استفاده از روابط زير انجام مي‏شود.

(7)	Gain Ratio (C,A) =

در اين رابطه C دسته، A ويژگي و H تابع آنتروپي است که از رابطه‏ي زير محاسبه مي‏گردد.

(8)

H(S) =

در اين رابطه p احتمالي است که براي آن يک مقدار از فضاي نمونه‏ها (S) رخ مي‏دهد.

الگوريتم OneR يک الگوريتم ساده است که به ازاي هر ويژگي يک قانون ايجاد کرده و بر اساس ميزان خطاي هر قانون آن‏ها را ارزيابي مي‏کند. سپس قانوني که کمترين نرخ خطا را داشته باشد انتخاب مي‏کند. اين روش يک الگوريتم توکار است.

الگوريتم تحليل اجزاي اصلي بر اساس انتخاب ويژگي‏هايي که به بهترين شکل پخشي داده در يک مجموعه داده را نشان مي‏دهند، کار مي‏کند. اين الگوريتم ويژگي‏هايي که با هم همپوشاني زيادي دارند را ادغام مي‏کند. اين الگوريتم نيز يک روش فيلتر مي‏باشد.

3.4 خوشه‌بندی

هدف خوشه‌بندي يافتن يک ساختار درون يک مجموعه از داده‌هاي بدون برچسب بوده و خوشه‌‌ها شامل مجموعه‌اي از داده‌ها مي‌باشد که شباهت بيشتري به يکديگر داشته باشند. در خوشه‌بندي سعي مي‌شود تا داده‌ها به خوشه‌هايي تقسيم شوند که شباهت درون هر خوشه بيشينه و شباهت داده‌هاي خوشه‌هاي متفاوت کمينه شود.

الگوريتم‌هاي خوشه‌بندي اعمال شده در اين پژوهش شامل الگوريتم K-means، EM و خوشه‏بندي مبتني بر چگالي²⁸ مي‌باشد. به اين دليل که الگوريتم‏هاي K-means و EM الگوريتم‏هاي شناخته شده‏تري مي‏باشند در اين قسمت فقط الگوريتم DBSCAN مختصراً توضيح داده خواهد شد.

همان گونه که در شکل 3 ديده مي‏شود، الگوريتم DBSCAN بر اساس دسته‏بندي داده‏ها به سه دسته‏ي هسته، دسترسي‏پذير و نويز تقسيم مي‏شوند.

شکل 3. توصيف الگوريتم DBSCAN. نقاط A و ساير نقاط قرمز هسته و نقاط زرد دسترسي‏پذير از نقاط هسته می‌باشند. نقطه‏ي N نويز است.

در اين الگوريتم هر نمونه که با يک نقطه نشان داده مي‏شود، به شرطي که به تعداد يک متغير از پيش مشخص شده (minPts) در يک فاصله‏ي از پيش مشخص (ε) در اطراف آن قرار داشته باشند (نقاط دسترسي‏پذير)، هسته تلقي مي‏شود و در غير اين صورت نويز هستند. به‌عنوان مثال در شکل 3 اگر minPts=4 باشد، نقطه A و ساير نقاط قرمز هسته هستند زيرا ناحيه‏ي اطراف آن‏ها با شعاع داراي حداقل 4 نقطه است. به اين دليل که تمام اين نقاط از همديگر ε قابل دسترسي هستند، همگي در يک خوشه قرار مي‏گيرند. نقاط B و C اگرچه هسته نيستند اما نقاط دسترسي پذير هستند و درنتيجه در يک خوشه با هسته قرار مي‏گيرند. نهايتاً نقطه‏ي N نويز است زيرا نه هسته است و نه نقطه دسترسي‏پذير.

3.5 دسته‌بندی

هدف دسته‏بندي تمايز بين داده‏هاي برچسب خورده درون تعداد دسته‏هاي از پيش معين مي‏باشد. معمولاً از روش‏هاي يادگيري ماشين براي دسته‏بندي استفاده مي‏شود ]39.[ الگوريتم‌هاي دسته‌بندي اعمال شده در اين پژوهش شامل الگوريتم‏هاي شبکه‏ي بيز، جنگل تصادفي²⁹ وBagging مي‏باشد. اين سه الگوريتم از سه خانواده‏ي مختلف انتخاب شده‏اند و در نحوه‌‌ی‏ محاسبه‏ي دسته‏ها تفاوت ساختاري دارند.

شبکه‏ي بيز يک نوع مدل گرافيکي احتمالي است که از استنتاج بيز براي محاسبه‏ي احتمالات استفاده مي‏کند. هدف شبکه‏ي بيز مدل کردن وابستگي شرطي و درنتيجه عليت با استفاده از يال‏ها در يک گراف جهت‏دار مي‏باشد. جنگل‏هاي تصادفي يا جنگل‏هاي تصميم‏گيري تصادفي يک روش يادگيري گروهي³⁰ براي دسته‏بندي است که با ساختن تعدادي درخت تصميم‏گيري در زمان آموزش دسته‏اي را که ميانه دسته‏ها باشد يا ميانگين پيش‏بيني درخت‏ها (در مواردي که دسته‏ها عددي هستند) را به‏عنوان خروجي برمي‏گرداند. نماي کلي اين الگوريتم در شکل 4 آورده شده است.

Image result for random forest

شکل 4. نماي کلي الگوريتم جنگل تصادفي. خروجي (y) بر اساس تجميع خروجي درخت‏هاي تصادفي با ورودي x انتخاب مي‏شود.

الگوريتم Bagging يک الگوريتم تخمين گروهي است که تعدادي دسته‏بند را روي زيرمجموعه‏هاي تصادفي از داده‏ي آموزشي آموزش داده و پيش‏بيني آن‏ها را با روش‏هایي مثل رأي‏گيري تجميع مي‏کند. نماي کلي اين الگوريتم در شکل 5 آورده شده است.

همان‏گونه که از مقايسه‏ي شکل‏هاي 4 و 5 مشخص است، تفاوت دو الگوريتم جنگل تصادفي و Bagging در اين است که در الگوريتم Bagging داده‏ي آموزشي به چند بخش تصادفي تقسيم مي‏شود و هر دسته‏بند روي بخشي از داده‏ي آموزشي آموزش مي‏بيند.

شکل 5. نماي کلي الگوريتم Bagging. خروجي (y) بر اساس تجميع خروجي دسته‏بندهايي که هر يک بر روی بخشی از مجموعه داده‏ها آموزش داده شده‏اند، انتخاب مي‏شود.

4 پياده‏سازي

4.1 مجموعه داده

همان‌طور که در شکل 1 مشاهده مي‌شود، جمع‌آوري اسناد الکترونيکي موجود در محيط وب اولين قدم جهت شناسايي نويسنده مي‌باشد. مجموعه داده‏ي استخراج شده در اين پژوهش، شامل1000 نظر فارسي در رابطه با محصولات گوشي‌هاي سامسونگ است که مربوط به سال‌هاي 2015 و 2016 مي‌باشد. در اين مجموعه، نظرات مربوط به 9 نويسنده به‌همراه شناسه‏ي کاربري آن‌ها آورده شده است. متوسط نظرات براي نويسندگان 125 نظر با تعداد 1 تا 19 جمله‌ي 9 تا 505 کلمه‌اي بوده است. نمونه‌اي از رکوردهاي اين مجموعه داده، مربوط به دو کاربر در جدول 12 قابل مشاهده مي‌باشد.

از آنجايي که اين متون غيرساخت‏يافته بوده و استخراج دانش از چنين مجموعه‌اي در ابتداي امر کاري غيرممکن مي‌باشد، بايد با اعمال فرايند متن‌کاوي به‌صورتي تبديل شود که براي الگوريتم‌ قابل درک باشد. گام اول در چنين فرايندي معمولاً پيش‌پردازش است؛ در اين فرايند سندهاي متن خام به‌عنوان ورودي دريافت شده و خروجي آن مجموعه‌اي از کلمات است که در مدل فضاي بردار³¹ (VS) مورد استفاده قرار مي‌گيرد.

4.2 فرايند پيش‌پردازش متون

فرايند کلي پيش‌پردازش صورت گرفته در اين پژوهش که در شکل 6 آمده است، تنها جهت استخراج ويژگي‌هاي دستوري بوده و به‌دليل اين‏که هدف اصلي عدم تغيير در سبک نگارش نويسندگان مي‌باشد، استخراج ساير ويژگي‌ها نيازي به مرحله پيش‌پردازش نداشته و همان متون اوليه مورد استفاده قرار گرفته است.

به‌دليل اين‌که در استخراج ويژگي‌هاي دستوري، هدف نهايي برچسب‌گذاري کلمات فارسي می‌باشد، تمامي نشانه‌ها و کلمات غيرفارسي حذف گرديد و تنها کلمات فارسي موجود در متن باقي ماند. سپس، متن حاصل توسط ابزارهاي پردازش زبان طبيعي موجود که مختص زبان فارسي مي‌باشد نرمال‌سازي گشت و در گام بعد، ويژگي‌هاي سبکي از آن‌ها استخراج گرديد. از ابزارهاي پردازش زبان طبيعي رايج که در زمينه‌ی پيش‌پردازش متون فارسي مي‌توان از آن‌ها بهره جست، مي‌توان به کتابخانه هضم و فردوس‌نت³² اشاره نمود که در اين پژوهش نيز نرمال‌سازي متون با کمک اين ابزارها صورت گرفت. فرايند نرمال‌سازي صورت گرفته توسط اين نرم‌افزارها شامل مراحل ذيل مي‌باشد:

· اصلاح کدينگ: جایگزین کردن حروف غیرفارسی که بیش از یک یونیکد دارند، با حروف معادل فارسی.

· حذف اعراب، تنوين، تشديد و علائمي از اين قبيل.

· اصلاح نيم‌فاصله: استفاده از نیم‌فاصله جهت تعیین مرزهای کلمات مرکب که می‌توانند به سه شکل متفاوت چسبيده، با نيم‌فاصله و يا فاصله نوشته شوند.

· تبديل کلمات عاميانه به رسمي: جهت از بین بردن ابهام در کلمات و اصطلاحات عامیانه و محاوره‌ای که پردازش زبان طبیعی را با مشکل مواجه می‌سازند.

· واحدسازی: استفاده از ‌فاصله جهت تعیین مرزهای کلمات.

· برچسب‌زني اجزای کلام: انتساب برچسب‌های واژگانی به کلمات و نشانه‌های تشکیل دهنده‌ی یک متن جهت نشان دادن نقش کلمات و نشانه‌ها در جمله. پس از طی مراحل اولیه‌ی نرمال‌سازی، جهت تعیین نوع کلمات از قبیل اسامي، افعال، حروف، ضماير و صفات نوبت برچسب‌گذاري می‌باشد که با استفاده از روش‌هاي مبتني بر قاعده ³³، صورت می‌گیرد و برچسب مناسب با استفاده از قواعد دستوری و زبان‌شناسی انتخاب می‌شود.

· تجزيه‌ی جملات به اجزاي تشکيل دهنده‌ی خود شامل گروه‌هاي اسمي، فعلي، قيدي و ....

· درخت نحوی با استفاده از ساختار لغات، موقعیت و ترتیب لغات در جمله، حروف یا عبارات قبل و بعد از آن‌ها و نوع لغات، ایجاد می‌شود. درواقع، این عملیات با توجه به ریخت‌شناسی (مطالعه ساختار و حالت‌های مختلف یک کلمه) در دستور زبان فارسی صورت می‌گیرد.

جدول 12. نمونه‌اي از رکوردهاي مجموعه داده.

شناسه کاربر	نظرات
95446	ببين الان بهترين مدلي که به ايران وارد شده همون مدل C يا CD هستش که من مدل دو سيم دارم الان سه ماه دارم استفاده ميکنم هيچ ايرادي نتونستم بهش بگيرم مصرف باطريش هم معموليه و نسبت به سخت افزار و ... خيلي طبيعيه هيچ مشکلي در آنتن دهي نداره .
95446	اگه بودجه براتون مهم نيس 100 درصد نوت 5 بهترينه; باطري نوت 5 از نوت 4 هم بهتره
95446	سلام بله خيلي بهتر از نسل هاي قبلي هستش موليتي تسکينگ هم با آپديتي که اخيرا داده به مراتب بهتر شده اما بي شک ميگم باز سرعت اجراي برنامه ها فوق العادست
104379	مشکل رم گوشي هاي سامسونگ فقط تو نوت 5 و گلکسي اس 6 بود الان اس 7 و اس 7 اج چنين مشکلي ندارن ميتونيد ي تحقيق بکنيد و خودتون از نزديک ببينيد گوشي جي 7 هم با اينکه رمش 1.5 هيتش کوچکترين لگ و تاخيري نداره
104379	مقايسه سي ۷ و آ ۷ ۲۰۱۶ حتما ببينيد..; http://www.aparat.com/v/vFnJW
104379	من الان چند ماهه اين گوشي دستمه مدل فورجي; خدايش تاحالا هيچ مشکلي باش نداشتم و دارم ازش لذت ميبرم

شکل 6. فرايند پيش‌پردازش متون فارسي.

4.3 تکمیل فرایند پیاده‌سازی

مرحله‏ي بعد شامل استخراج ويژگي‌ها است که در آن براي هر سند متني يک بردار 134 بعدي شامل ویژگی‌های لغوي، نگارشی، ساختاري، دستوري، معنايي، ويژگي‌هاي مختص شبکه‌هاي اجتماعي و مختص متن جهت بازنمايي مقادير توليد ‌شد؛ به‌طوري‌که اين ويژگي‌ها داراي تمام يا بخش اعظمي از اطلاعات موجود در متون اوليه بودند. در ادامه، فرايند انتخاب ويژگي، خوشه‌بندي و دسته‌بندی بر روي بردار ويژگي‌ها با استفاده از الگوریتم‌های ذکر شده در بخش‌های 3.3، 3.4 و 3.5 صورت گرفت.

5 تحليل نتايج

در اين پژوهش، به‌منظور اعمال الگوريتم‌هاي انتخاب ويژگي‌ بر روي ويژگي‌هاي استخراج شده و همچنين خوشه‌بندي و دسته‏بندي با استفاده از ويژگي‌هاي انتخاب شده، از بسته نرم‌افزاري وکا استفاده شد. جهت انتخاب 15، 30، 60، 90 و 134 ويژگي برتر جهت شناسايي نويسنده، در مرحله‏ي رتبه‌بندي ويژگي‌ها، الگوريتم‌هاي نرخ بهره، الگوريتم تحليل اجزاي اصلي، همبستگي ويژگي وOneR بر روي مجموعه داده اعمال و سپس با استفاده از الگوريتم‌هاي EM،K-means و DBSCAN کار خوشه‌بندي نمونه‌ها صورت گرفت. سپس براي مقايسه‏ي نتايج در حالت نظارت شده و غيرنظارتي، دسته‏بندي نمونه‏ها با استفاده از الگوريتم‏هاي شبکه‏ي بيز، جنگل تصادفي و Bagging انجام شد. جهت ارزيابي الگوريتم‌هاي مذکور، از درصد خطاي به‌دست آمده براي خوشه‏بندي و دقت (تعداد نمونه‏هاي به‏درستي دسته‏بندي شده) براي دسته‏بندي استفاده گرديد. نتايج بررسي‌های مربوط به روش‌های غیرنظارتی در شکل‏هاي 7 تا 9 و روش‌های نظارتی در شکل‏هاي 10 تا 12 قابل مشاهده مي‌باشند.

شکل7. درصد خطاي حاصل از اعمال الگوريتم ‌EM .

شکل 8. درصد خطاي حاصل از اعمال الگوريتم K-means.

شکل 9. درصد خطاي حاصل از اعمال الگوريتم DBSCAN.

با دقت در نمودارهای شکل‏هاي 7 تا 9 ملاحظه می‌شود که در روش غیرنظارتی، بهترين نتيجه مربوط به زماني است که 15 ويژگي برتر توسط الگوريتم انتخاب ويژگي OneR انتخاب شده و سپس توسط الگوریتم خوشه‌بندی EM به خوشه‌های مجزا تقسیم‌بندی شده است. همان‌طور ‌که در شکل 7 مشاهده می‌شود با کاهش ابعاد ويژگي‌ها از 134 به 15 ويژگي،‌ نرخ خطا کاهش یافته و درصد تشخيص درست افزايش مي‌يابد. به‌طوری‌که در بهترين حالت الگوريتم‏هاي غيرنظارتي به دقت 16/59% مي‏رسند. از اين مشاهده مي‌توان چنين نتيجه گرفت که افزودن ويژگي‌هاي بي‌فايده نه تنها منجر به بهبود دقت نمي‌شود، بلکه ممکن است موجب کاهش دقت دسته‌بند نيز گردد.

شکل 10. دقت دسته‏بندي مربوط به الگوريتم شبکه‌ی بیز.

شکل 11. دقت دسته‏بندي مربوط به الگوريتم جنگل تصادفی.

شکل 12. دقت دسته‏بندي مربوط به الگوريتم Bagging.

همچنین با دقت در نمودارهای شکل‏هاي 10 تا 12 مشاهده می‌شود که در روش نظارتی، بهترین عملکرد مربوط به الگوریتم جنگل تصادفی به‌همراه نسبت بهره برای 90 ویژگی مي‌باشد که دقت 57/79 درصد کسب گردیده است.

خلاصه‌ی نتیجه‌ی ارزیابی‌ها شامل ترتيب قرار گرفتن 15 ويژگي برتر انتخاب شده با استفاده از الگوریتم انتخاب ويژگي OneR، به‌همراه گروه مربوط به هر ویژگی، در جدول 13 قابل مشاهده می‌باشد. بررسي دقيق‌تر اين 15 ويژگي برتر شامل ويژگي‌هاي F3،‌‌‌ F64، F63‌، F65، F44، F90، F83، F41، F5، F131، F80،F132 ، F95، F81 و F115 بيانگر اين مطلب است که کدام‌یک از ویژگی‌های سبک‌شناسی که در گذشته برای متون طولانی و ساختارمند مورد استفاده قرار گرفته و کار شناسایی نویسنده را با دقت بالایی انجام داده‌اند، در‌مورد متون کوتاه نیز می‌توانند به همان اندازه مؤثر واقع شوند.

جدول 13. بررسي 15 ويژگي برتر.

ويژگي	شرح ويژگي	گروه ويژگي
F3	تعدادکل حروف بزرگ انگليسي ÷ تعدادکل علائم	لغوي- علامت‌محور
F64	تعداد کلمات انگليسي ÷ تعداد کل کلمات	لغوي- کلمه محور
F63	تعداد کلمات فارسي ÷ تعداد کل کلمات	لغوي- کلمه محور
F65	تعداد کلمات کوتاه 1 حرفي ÷ تعداد کل کلمات	لغوي- کلمه محور
F44	تعداد حروف انگليسي J و j ÷ تعداد کل علائم	لغوي- علامت‌محور
F90	تعداد سه‌نقطه ÷ تعداد کل علائم	نگارشی
F83	تعداد نقطه ÷ تعداد کل علائم	نگارشي
F41	تعداد حروف انگليسي G و g ÷ تعداد کل علائم	لغوي- علامت‌محور
F5	تعداد کل حروف انگليسي ÷ تعداد کل علائم	لغوي- علامت‌محور
F131	تعداد گوشي‌هاي سريJ و G ÷ کلمات مختص متن	مختص متن
F80	معيار Simpson	لغوي-کلمه محور
F132	تعداد گوشي‌هاي سري S ÷ کلمات مربوط به متن	مختص متن
F95	تعداد کل خطوط ÷ تعداد کل کلمات	ساختاري
F81	تعداد کل علائم نقطه‌گذاري ÷ تعداد کل علائم	نگارشي
F115	تعداد گروه فعلي	دستوري

با توجه به جدول 13 با مقايسه‌ی ویژگی‌ها مشاهده می‌شود که در این پژوهش، ویژگی‌های لغوی (علامت‌محور و کلمه‌محور) بیشترین تأثیر را در شناسایی نویسنده‌ی متون کوتاه داشته و پس از آن‌ها به ترتيب ويژگي‌هاي نگارشی، مختص متن، ساختاري و دستوري قرار گرفته‌اند.

به‌دلیل این‌که مجموعه داده‌ی مورد استفاده در این پژوهش مربوط به نظرات خریداران گوشی می‌باشد، حروف s ، j وg در جدول 13 مربوط به حروف به‌کار رفته در مدل‌های گوشی بوده که افراد نظرات خود را درمورد آن‌ها بیان نموده‌اند. این حروف جزء ویژگی‌های لغوی (علامت‌محور) بوده و به دلیل پرتکرار بودن این حروف در مجموعه داده، موجب بالارفتن دقت ویژگی لغوی در میان سایر ویژگی‌ها گردیده‌اند.

در ادامه به‌منظور بررسي تأثير ويژگي‌هاي سبک‌شناسي، هر يک از ويژگي‌هاي نگارشی، لغوي، معنايي، دستوري، ساختاري، مختص متن و مختص شبکه‌هاي اجتماعي به‌طور مجزا در نظر گرفته شد و سپس الگوريتم‌هاي خوشه‌بندي بر روي داده‌هاي موجود اعمال شد. با توجه به شکل 13 مي‌توان نتيجه گرفت که ويژگي‌هاي نگارشی بيشترين تأثير را در شناسايي نويسنده‏ي متون کوتاه داشته و پس از آن‌ به ترتيب ويژگي‌هاي لغوي ، مختص متن، مختص شبکه‌های اجتماعی، ساختاري، دستوري و معنایی قرار گرفته‌اند.

شکل 13. بررسي ويژگي‌هاي سبک‌شناسي به‌طور مجزا.

6 بحث

6.1 مقایسه‌ی روش‌های نظارتی و غیرنظارتی

همان‏گونه که از مقايسه‏ي شکل 7 و شکل 11 مشخص است، در بهترين حالت الگوريتم‏هاي غيرنظارتي به دقت 16/59% (درصد خطاي 84/40%) مي‏رسند، درحالي‌که الگوريتم‏هاي نظارتي در بهترين حالت به دقت 57/79% مي‏رسند. همچنين بدترين حالت براي الگوريتم‏هاي نظارتي فقط کمي بدتر از بهترين حالت براي الگوريتم‏هاي غيرنظارتي است. اين نشان‏دهنده‏ي کارايي بالاتر الگوريتم‏هاي نظارتي مي‏باشد. اين نتيجه از پيش قابل پيش‏بيني بود زيرا الگوريتم‏هاي نظارتي با در اختيار داشتن برچسب نمونه‏ها و با استفاده از يادگيري بهتر مي‏توانند نمونه‏هاي ديده نشده را برچسب‏گذاري نمايند.

به‌طورکلی، بهترین نتایج حاصل از اعمال الگوریتم‌های مذکور که در جدول 14 نیز آمده است به‌صورت زیر می‌باشد. در روش نظارتی الگوریتم‌های Bagging، شبکه‏ی بیز و جنگل تصادفی به‌منظور دسته‌بندی و از الگوریتم‌های همبستگي ويژگي، نسبت بهره، OneR و تحليل اجزاي اصلي به‌منظور انتخاب ویژگی‌های برتر استفاده گردید که با استفاده از الگوریتم‌های Bagging به‌همراه OneR دقت 07/76%، شبکه‏ی بیز به‌همراه همبستگي ويژگي دقت 67/70%، جنگل تصادفی به‌همراه نسبت بهره دقت 57/79% و جنگل تصادفی به‌همراه تحلیل اجزای اصلی دقت 87/77 درصد کسب گردید.

جدول 14. بررسی دقت طبقه‌بندی الگوریتم‌های متفاوت، بر روی ویژگی‌های استخراج شده از متون کوتاه فارسی.

مجموعه داده

ویژگی

روش

دقت

نظرات فارسی مربوط به خریداران گوشی

لغوي،

نگارشي،

معنايي،

ساختاري،

دستوري،

مختص متن،

مختص شبکه‌هاي اجتماعي

خوشه‏بندي مبتني بر چگالي + تحليل اجزاي اصلي،

خوشه‏بندي مبتني بر چگالي + همبستگي ويژگي،

K-means + نسبت بهره،

EM + OneR

25/55

55/56

15/59

شبکه‏ي بيز + همبستگی ويژگي،

Bagging + OneR,

جنگل‌تصادفی + تحليل اجزاي اصلي،

جنگل‌تصادفي + نسبت بهره

67/70

07/76

87/77

57/79

در روش غیرنظارتی از الگوریتم‌های مبتني بر چگالي، K-means و EM به‌منظور خوشه‌بندی و از الگوریتم‌های همبستگي ويژگي، نسبت بهره، OneR و تحليل اجزاي اصلي به‌منظور انتخاب ویژگی‌های برتر استفاده گردید که با استفاده از الگوریتم‌های مبتني بر چگالي به‌همراه همبستگي ويژگي دقت 25/55%، K-means به‌همراه نسبت بهره دقت 55/56%، EM به‌همراه OneR دقت ٪59/15 و خوشه‏بندي مبتني بر چگالي به‌همراه تحليل اجزاي اصلي دقت 48 درصد کسب گردید.

6.2 بررسی ویژگی‌های سبک‌شناسی

با توجه به این‌که مجموعه داده‌ی مورد استفاده در این پژوهش، متون کوتاه شامل نظرات مربوط به خریداران گوشی می‌باشد و این متون کوتاه به‌صورت تعاملی بوده و از سبک نگارشی رسمی پیروی نمی‌کنند و همچنین افراد برای غلط‌های املایی و دستور زبانی اهمیتی قائل نمی‌شوند و به‌طور کلی در قالب و ساختار و چیدمان متن، با اسناد متنی معمولی تفاوت چشمگیری دارند چنین خصوصیاتی موجب کاهش دقت در ویژگی‌های سبک‌شناسی سنتی شده و کار شناسایی نویسنده‌ی متون کوتاه به کمک این ویژگی‌ها را با مشکل مواجه می‌سازد.

بررسی نتایج حاصل از اعمال روش‌های متفاوت بر روی مجموعه داده‌‌ی متون کوتاه برخط در این پژوهش نشان داد که ويژگي‌هاي نگارشی بيشترين تأثير را در شناسايي نويسنده‏ي متون کوتاه داشته و پس از آن‌ به ترتيب ويژگي‌هاي لغوي، مختص متن، مختص شبکه‌های اجتماعی، ساختاري، دستوري و معنایی قرار می‌گیرند.

به‌دلیل این‌که ویژگی‌های لغوی متن را به‌صورت رشته‌ای از کلمات و علائم درنظر گرفته و ویژگی‌های نگارشی شامل نشانه‌هاي نقطه‌گذاري و تعداد تکرار کلمات تابع می‌باشند؛ خصوصیات این دو ویژگی موجب شده ‌که سبک نگارشی، غلط‌های املایی و دستور زبانی، محاوره‌ای یا رسمی بودن متن، ساختار و سازماندهی متن، تأثیری در عملکرد این دو ویژگی نداشته و نسبت به سایر ویژگی‌ها از دقت بالاتری برخوردار باشند.

ویژگی‌های مختص متن که با توجه به محتوای متن، مدل‌های گوشي و تکيه کلام‌هاي افراد درنظر گرفته شده‌اند عملکرد مناسبی در شناسایی نویسنده داشته‌اند. البته این ویژگی‌ها نیز تحت تأثیر محاوره‌ای بودن متن و همچنین غلط‌های املایی موجود در متن قرار گرفته و نسبت به دو ویژگی نگارشی و لغوی از دقت پایین‌تری برخوردار می‌باشند.

ویژگی‌های مختص شبکه‌های اجتماعی که با استفاده از شکلک‏هاي مثبت، خنثي و منفي و نمادهای متن‌محور، بيانگر حالت روحي نويسنده مي‌باشند نیز عملکرد مناسبی در شناسایی نویسنده‌ی متون کوتاه داشته‌ و سبک نگارشی افراد و سایر خصوصیات مربوط به متون کوتاه نأثیر چندانی در دقت تشخیص آن‌ها نداشته‌اند.

ویژگی‌های ساختاری تحت تأثیر خصوصیات متون محاوره‌ای قرار گرفته و درنتیجه نسبت به سایر ویژگی‌ها، تأثیر کمتری در شناسایی نویسنده‌ی متون کوتاه داشته‌اند.

به دلیل این‌که ویژگی‌های دستوری تحت تأثیر غلط‌های املایی و دستور زبانی و همچنین سبک نگارشی افراد قرار می‌گیرند و همچنین فرایند استخراج این ویژگی‌ها با کمک ابزارهای پردازش زبان طبیعی صورت گرفته، عدم رعایت قواعد نگارشی و دستور زبانی، کار برچسب‌گذاری مجموعه داده را با مشکل مواجه ساخته و برچسب‌های به‌دست آمده با کمک این ابزارها، از دقت بالایی برخوردار نبوده و همین امر موجب کاهش دقت نتایج حاصل از اعمال الگوریتم‌ها با استفاده از ویژگی‌های دستوری شده است و این ویژگی‌ با دقت 23/32 درصد، عملکرد ضعیفی را در شناسایی نویسنده‌ی متون کوتاه نشان داده است.

عامیانه بودن متون کوتاه و غلط‌های املایی و دستور زبانی موجب شده است که ویژگی‌های معنایی نسبت به تمامی ویژگی‌ها از کمترین دقت تشخیص برخوردار ‌باشد.

7 نتیجه‌گیری

در پژوهش حاضر شناسايي نويسندگان نظرات فارسي با استفاده از الگوريتم‏هاي مختلف خوشه‏بندي و دسته‏بندي، همچنين با به‏کارگيري الگوريتم‏هاي انتخاب ويژگي مورد بررسي قرار گرفت. يافته‏هاي اين پژوهش نشان مي‌دهد که با کاهش ابعاد ويژگي‌ها درصد تشخيص درست افزايش مي‌يابد به‌طوري‌که بهترين نتيجه مربوط به زماني است که 15 ويژگي برتر توسط الگوريتم انتخاب ويژگي OneR انتخاب شدند. از ميان اين 15 ويژگي ويژگي‌هاي لغوي بيشترين تأثير را در شناسايي نويسنده‌ی متون کوتاه داشته و پس از آن‌ها به ترتيب ويژگي‌هاي نگارشی، مختص متن، ساختاري و دستوري قرار گرفتند.

نتايج حاصل از آزمودن الگوريتم‏هاي نظارتي و غيرنظارتي نشان مي‏دهد که بهترين دقت تشخيص در بين الگوريتم‏هاي خوشه‏بندي مربوط به الگوريتم EM روي 15 ويژگي‌ برتر انتخابي توسط OneR می‌باشد درحالي‌که الگوريتم جنگل تصادفي به‌همراه نسبت بهره برای 90 ویژگی بالاترین کارايي را در بين الگوريتم‏هاي دسته‏بندي دارد. همچنين با توجه به نتايج حاصل از مقايسه‏ي الگوريتم‏هاي خوشه‏بندي و دسته‏بندي مشخص شد که الگوريتم‏هاي نظارتي در بهترين حالت به ميزان 41/20% نسبت به الگوريتم‏هاي غيرنظارتي برتري دارند.

اين پژوهش نشان مي‌دهد با وجود آن‌که به کمک ويژگي‌هاي سبک‌شناسي سنتي نيز مي‌توان به شناسايي نويسنده‌ی متون کوتاه پرداخت، اما تکنيک‌هاي انتخاب ويژگي سنتي که در تحقيقات گذشته جهت شناسايي نويسنده‌ی متون ساختارمند و طولاني مورد استفاده قرار گرفته و دقت بالايي داشتند در ‌مورد متون برخط دقت و کارايي کمتري دارند. اسناد برخط، تعاملي‌تر بوده، سبک نگارش رسمي کمتري داشته و الگوي واژگان در آن‌ها ثابت نيست و همچنین نسبت به اسناد متني عادي در سبک نگارش، قالب، ساختار و چیدمان متن متفاوت بوده و اين‌که افراد براي غلط‌هاي املايي و گرامري اهميتي قائل نمي‌شوند، يافتن الگوي نگارشي نويسنده را با مشکل مواجه مي‌سازد. کوتاه بودن طول اين متون نيز موجب کاهش دقت دسته‌بندي و افزايش نرخ خطا مي‌گردد.

نتایج حاصل از این پژوهش گویای این مطلب است که به‌دليل اين‌که ويژگي‌هاي دستوري وابسته به سبک نگارشي افراد بوده و فرايند استخراج اين ويژگي‌ها با کمک ابزارهاي پردازش زبان طبيعي صورت مي‌گيرد، برچسب‌های به‌دست آمده با استفاده از این ابزارها از دقت کافی برخوردار نبوده و درنهایت، نتايج حاصل از اعمال الگوريتم‌ها از دقت بالايي برخوردار نمي‌باشند. ويژگي‌هاي معنایی و مختص متن تحت تأثير محاوره‌اي بودن متن قرار گرفته و همین امر به کاهش دقت تشخیص منجر می‌شود. در ميان اين ويژگي‌ها، ويژگي‌هاي لغوي و نگارشی که وابستگي چنداني به ساختار و قالب متن ندارند و محاوره‌اي و رسمي بودن متون در عملکرد آن‌ها تأثيري نمي‌‌گذارد، نسبت به ساير ويژگي‌ها نتيجه‌ی بهتري از خود نشان مي‌دهند.

با توجه به يافته‏هاي اين پژوهش مي‏توان جمع‏بندي کرد که درصورتي که نوشته‏هايي از نويسندگان وب در دسترس باشد، مثلا زماني که هدف شناسايي کاربري از بين کاربران موجود در يک وب‏سايت از روي نوشته‏هاي موجود است و سابقه‏ي نگارش افراد وجود دارد، بهتر است از الگوريتم‏هاي دسته‏بندي استفاده شود؛ درحالي‏که اگر هدف يافتن نوشته‏هاي يک نويسنده بر اساس تشابه‏ نوشته‏ها باشد، لازم است از الگوريتم‏هاي خوشه‏بندي استفاده شود. به‏عنوان ادامه‏ي راه براي اين پژوهش مي‏توان استفاده از الگوريتم‏هاي فراابتکاري که در ساير حوزه‏ها کارايي خوبي نشان داده‏اند را براي انتخاب ويژگي پيشنهاد داد. همچنين به‏کارگيري روابط موجود در سايت‏هاي اجتماعي مي‏تواند جهت شناسايي بهتر نويسندگان به‏عنوان مسيري براي کارهاي آتي پيشنهاد شود.

مراجع

[1] مرادي، مهدی و بحراني، محمد، “تشخيص خودکار جنسيت نويسنده در متون فارسي”، فصل‌نامه پردازش علائم و داده‌ها، شماره 4، پیاپی 26، صفحات 83-94، 1394.

[2] فرهمندپور، زینب، نیک‌مهر، هومان، منصوری زاده، محرم و طبیب زاده قمصری، اميد، “يک سيستم نوين هوشمند تشخيص هويت نويسنده فارسي زبان بر اساس سبک نوشتاري-مقاله برگزيده هفدهمين کنفرانس ملي انجمن کامپيوتر ايران”، مجله محاسبات نرم، شماره دوم، صفحات 35-26، 1391.

[3] F. Iqbal, H. Binsalleeh, B. C. M. Fung, and M. Debbabi, “Mining writeprints from anonymous e-mails for forensic investigation,” Digit. Investig., vol. 7, no. 1–2, pp. 56–64, 2010.

[4] S. Nirkhi, R. V Dharaskar, and V. M. Thakare, “Authorship Verification of Online Messages for Forensic Investigation,” Procedia Comput. Sci., vol. 78, pp. 640–645, 2016, doi: https://doi.org/10.1016/j.procs.2016.02.111.

[5] M. L. Brocardo, I. Traore, and I. Woungang, “Authorship verification of e-mail and tweet messages applied for continuous authentication,” J. Comput. Syst. Sci., vol. 81, no. 8, pp. 1429–1440, 2015.

[6] Y. Yiming and P. Jan O., “A Comparative Study on Feature Selection in Text Categorization,” Proceeding ICML ’97 Proc. Fourteenth Int. Conf. Mach. Learn., vol. 53, no. 9, pp. 412–420, 1997.

[7] M. Frederick and L. Wallace David, “Inference and Disputed Authorship: The Federalist. Reading, Addison.” Wessley Publishing Company. Republié sous le titre Applied Bayesian and …, 1984.

[8] T. C. Mendenhall, “The Characteristic Curves of Composition,” Science (80-. )., vol. 9, no. 214, pp. 237–249, Dec. 1887, [Online]. Available:http://www.jstor.org/stable/1764604.

[9] H. Craig, “Authorial attribution and computational stylistics: If you can tell authors apart, have you learned anything about them?,” Lit. Linguist. Comput., vol. 14, no. 1, pp. 103–113, 1999.

[10] M. Koppel and J. Schler, “Authorship verification as a one-class classification problem,” in Proceedings of the twenty-first international conference on Machine learning, 2004, p. 62.

[11] E. Villar-Rodriguez, J. Del Ser, M. N. Bilbao, and S. Salcedo-Sanz, “A feature selection method for author identification in interactive communications based on supervised learning and language typicality,” Eng. Appl. Artif. Intell., vol. 56, pp. 175–184, 2016, doi: https://doi.org/10.1016/j.engappai.2016.09.004

[12] P. Geutner, U. Bodenhausen, and A. Waibel, “Flexibility through incremental learning: Neural networks for text categorization,” in Proceedings of WCNN-93, World Congress on Neural Networks, 1993, pp. 24–27.

[13] O. De Vel, “Mining e-mail authorship,” 2000.

[14] M. Corney, O. De Vel, A. Anderson, and G. Mohay, “Gender-preferential text mining of e-mail discourse,” in 18th Annual Computer Security Applications Conference, 2002. Proceedings., 2002, pp. 282–289.

[15] F. Iqbal, R. Hadjidj, B. C. M. Fung, and M. Debbabi, “A novel approach of mining write-prints for authorship attribution in e-mail forensics,” Digit. Investig., vol. 5, pp. S42–S51, 2008.

[16] A. Abbasi and H. Chen, “Writeprints: A stylometric approach to identity-level identification and similarity detection in cyberspace,” ACM Trans. Inf. Syst., vol. 26, no. 2, pp. 1–29, 2008.

[17] F. Iqbal, L. A. Khan, B. C. M. Fung, and M. Debbabi, “E-Mail Authorship Verification for Forensic Investigation,” in Proceedings of the 2010 ACM Symposium on Applied Computing, 2010, pp. 1591–1598, doi: 10.1145/1774088.1774428.

[18] B. Allison and L. Guthrie, “Authorship Attribution of E-Mail: Comparing Classifiers over a New Corpus for Evaluation.,” 2008.

[19] N. Cheng, R. Chandramouli, and K. P. Subbalakshmi, “Author gender identification from text,” Digit. Investig., vol. 8, no. 1, pp. 78–88, 2011.

[20] X. Chen, P. Hao, R. Chandramouli, and K. P. Subbalakshmi, “Authorship similarity detection from email messages,” in International Workshop on Machine Learning and Data Mining in Pattern Recognition, 2011, pp. 375–386.

[21] J. Keeshin, Z. Galant, and D. Kravitz, “Machine Learning and Feature Based Approaches to Gender Classification of Facebook Statuses.” 2010.

[22] R. Layton, P. Watters, and R. Dazeley, “Authorship Attribution for Twitter in 140 Characters or Less,” in 2010 Second Cybercrime and Trustworthy Computing Workshop, Jul. 2010, pp. 1–8, doi: 10.1109/CTC.2010.17.

[23] C. Li, A. Sun, and A. Datta, “Twevent: Segment-Based Event Detection from Tweets,” in Proceedings of the 21st ACM International Conference on Information and Knowledge Management, 2012, pp. 155–164, doi: 10.1145/2396761.2396785.

[24] J. S. Li, J. V Monaco, L.-C. Chen, and C. C. Tappert, “Authorship authentication using short messages from social networking sites,” in 2014 IEEE 11th International Conference on e-Business Engineering, 2014, pp. 314–319.

[25] A. Zubiaga, D. Spina, R. Martínez, and V. Fresno, “Real‐time classification of twitter trends,” J. Assoc. Inf. Sci. Technol., vol. 66, no. 3, pp. 462–473, 2015.

[26] A. Orebaugh, “An Instant Messaging Intrusion Detection System Framework: Using character frequency analysis for authorship identification and validation,” in Proceedings 40th Annual 2006 International Carnahan Conference on Security Technology, 2006, pp. 160–172.

[27] O. Canales et al., “A stylometry system for authenticating students taking online tests,” P. Student-Faculty Res. Day, Ed., CSIS. Pace Univ., 2011.

[28] C.-Y. Lai, “Author Gender Analysis’,” Final Proj. from I, vol. 256, 2009.

[29] H. Alam and A. Kumar, “Multi-lingual author identification and linguistic feature extraction—A machine learning approach,” in 2013 IEEE International Conference on Technologies for Homeland Security (HST), 2013, pp. 386–389.

[30] J. Adams, H. Williams, J. Carter, and G. Dozier, “Genetic Heuristic Development: Feature selection for author identification,” in 2013 IEEE Symposium on Computational Intelligence in Biometrics and Identity Management (CIBIM), 2013, pp. 36–41.

[31] J. Houvardas and E. Stamatatos, “N-gram feature selection for authorship identification,” in International conference on artificial intelligence: Methodology, systems, and applications, 2006, pp. 77–86.

[32] A. K. Uysal and S. Gunal, “A novel probabilistic feature selection method for text classification,” Knowledge-Based Syst., vol. 36, pp. 226–235, 2012, doi: https://doi.org/10.1016/j.knosys.2012.06.005

]33[ زنگويي، سمیرا، نعمتی شمس‌آباد، حسنعلی “شناسايي نويسندگان پيام هاي الکترونيکي از طريق واکاوي نوع و سبک نگارش آن ها مبتني بر روش هاي يادگيري ماشين(WKF based on SVM-PHGS) ”، پردازش و مديريت اطلاعات (علوم و فناوري اطلاعات)، شماره 2، دوره 29، صفحات 476-453، 1392.

[34] G. U. Yule, “The statistical study of literary vocabulary. Cambridge, Cambridge [Eng.].” University Press. Journal of the Royal Statistical Society, 1944.

[35] A. Honoré, “Some simple measures of richness of vocabulary,” Assoc. Lit. Linguist. Comput. Bull., vol. 7, no. 2, pp. 172–177, 1979.

[36] E. Brunet, Le Vocabulaire de Jean Giraudoux: structure et évolution : statistique et informatique appliquées à l’étude des textes à partir des données du Trésor de la langue française. Slatkine, 1978.

[37] H. S. Sichel, “On a Distribution Law for Word Frequencies,” J. Am. Stat. Assoc., vol. 70, no. 351a, pp. 542–547, 1975, doi: 10.1080/01621459.1975.10482469.

[38] E. H. SIMPSON, “Measurement of Diversity,” Nature, vol. 163, no. 4148, p. 688, 1949, doi: 10.1038/163688a0.

[39] S. Nemati, M. E. Basiri, N. Ghasem-Aghaee, and M. H. Aghdam, “A novel ACO–GA hybrid algorithm for feature selection in protein function prediction,” Expert Syst. Appl., vol. 36, no. 10, pp. 12086–12094, 2009, doi:https://doi.org/10.1016/j.eswa.2009.04.023.

[1] Authorship Identification

[2] Authorship Verification

[3] Authorship Characterization

[4] Function words

[5] Neural Network (NN)

[6] Support Vector Machine (SVM)

[7] write print

[8] Principal Component Analysis (PCA)

[9] entity

[10] Hierarchial Clustering

[11] Agglomerative way

[12] Divisive way

[13] Multimentional scaling

[14] K Nearest Neighbor (KNN)

[15] Character-based

[16] Genetic Algorithm (GA)

[17] Evolutionary Algorithm (EA)

[18] Genetic Heuristic Development (GHD)

[19] n-gram

[20] Information Gain (IG)

[21] Distinguishing Feature Selector (DFS)

[22] Weighted Kernel Fusion based on SVM-Parallel Hierarichal Gride Search (WKF)

[23] Overfitting

[24] Wrapper

[25] Embeded

[26] Correlation Attribute (CA)

[27] Gain Ratio

[28] Density-based spatial clustering of applications with noise (DBSCAN)

[29] Random forest

[30] Ensemble learning

[31] Vector Space

[32] ابزارهای پردازش متون زبان فارسی، آزمایشگاه فناوری وب دانشگاه فردوسی مشهد، 1391.

[33] Rule-based

Feature selection for author identification in Persian online short texts

Abstract:

The growing use of social media and online communication to express opinions, exchange ideas, and also the expanding use of of these platforms by Persian users has increased Persian texts on the Web. This remarkable growth, along with abusive use of the writer's anonymity, reveals the need for the author's automatic identification system in this language. In this research, the purpose of the study is to investigate the factors affecting the identification of authors of Persian reviews produced by cell-phone buyers and also to evaluate supervised and unsupervised methods. The factors considered in this research include lexical, syntactic, semantic, structural, grammatical, text-specific, and specific to social networks. After extracting these features, selecting the best features is tested by four algorithms including feature correlation, gain ratio, OneR, and principal components analysis. In the following, K-means, EM and density-based clustering will be used for clustering and Bayesian network, random forest, and Bagging will be used for categorization. The evaluation of the above algorithms on Persian comments of Samsung phone buyers indicates that the best performance among the clustering algorithms is 59/16% obtained by the EM algorithm on top-15 features selected by OneR, while the random forest algorithm using top-90 features selected by gain ratio with 79/57% achieves the best performance among the classification algorithms. Also, the comparison of features showed that syntactic features had the most effect on the identification of the author of short texts, and then, lexical, text-specific, specific to social networks, structural, grammatical and semantic features, respectively.

Keywords: Text analysis, Stylistic analysis, Feature extraction, Feature selection and Author identification.

Share To

Article Url

Feature selection for author identification of Persian online short texts