A feature based simple machine learning approach with word embeddings to named entity recognition on tweets
Tezin Türü: Yüksek Lisans
Tezin Yürütüldüğü Kurum: Galatasaray Üniversitesi, Mühendislik ve Teknoloji Fakültesi, Bilgisayar Mühendisligi, Türkiye
Tezin Onay Tarihi: 2017
Tezin Dili: İngilizce
Öğrenci: METE TAŞPINAR
Danışman: TANKUT ACARMAN
Açık Arşiv Koleksiyonu: AVESİS Açık Erişim Koleksiyonu
Özet:İnternetin ve özellikle de mobil platformların yaygınlaşmasıyla günümüzde çok büyük miktarda veri üretilmeye başlanmıştır. Bu miktardaki veriden anlamlı bilgi çıkarmak –özellikle anlık olarak- insan gücüyle mümkün olamamaktadır. Bu sebeple veri madenciliği bilimi ortaya çıkmıştır. Veri madenciliğinde makine öğrenmesi algoritmaları kullanılmaktadır. Makine öğrenmesinin uygulama alanları oldukça geniştir. İstenmeyen (spam) maillerin tahmini, maillerin otomatik olarak gruplanması (birincil, sosyal, güncellemeler vb ..), kredi kartı veya hesap hareketlerinde anomali tespiti, ses tanıma, verilen resimde veya videoda yüz/yaş tanıma/anlama, müşterilere ürün önerme, hastalık teşhisi, şekil tanıma gibi popüler örnekler mevcuttur. Makine öğrenmesi algoritmaları genel anlamda gözetimli ve gözetimsiz öğrenme olarak 2'ye ayrılır. Gözetimli öğrenmede çalışılan veriden çıkarılacak bilgi (etiket) önceden bellidir. Yani; belirli girdiler verilince çıkacak sonucu algoritmaya veririz. Algoritma yeterli miktarda veriyle veri kümesini tanıdıktan sonra yeni girdilerle çıkacak sonucu tahmin eder. Gözetimsiz öğrenmede ise tahmin edeceği bilgiler önceden belli değildir, algoritma bu bilgiyi de tahmin eder. Kavram Tanıma doğal dil işlemede uzun süredir çalışılan bir alandır. Stanford NER gibi geleneksel yöntemler resmi ve gramer olarak düzgün verilerde çok iyi sonuçlar vermektedir. Fakat bu sistemler sosyal medya gibi kısaltmaların ve dil yanlışlarının çok olduğu verilerde iyi sonuçlar vermemektedir. Bu çalışmada gözetimli öğrenme algoritmaları kullanılmıştır. Veri kümesi olarak sosyal medya uygulaması Twitter verileri kullanılmıştır. Bu tür çalışmalarda en büyük zorluklar veri kümesi bulma ve bulunan veriyi temizleme işlemleridir. Bu işlemlerin çalışma zamanının %80'inden fazlasını aldığı söylenir. Bu çalışmada mikro blog (Twitter) verilerinde kavram tanıma/çıkarma işlemi yapılmıştır. Verilen 140 karakter içinden kişi, organizasyon, lokasyon, ürün, olay ve karakter bilgileri tahmin edilmeye çalışılmıştır. Veri kümesi olarak 2016 yılında yapılan NEEL konferansı verileri kullanılmıştır. Önerdiğimiz sistemin sonuçları da aynı konferanstaki sonuçlarla karşılaştırılmıştır. Konferans datası tweet id'lerini kapsamaktadır. Id'ler üzerinden tweetlerin text kısmına ulaşılmıştır. Bu konferansın üstünden yaklaşık bir yıl geçtiği için, verilen id'lerdeki hesapların kapanması veya tweet'lerin gizli duruma geçmesi yüzünden veri kümesinin yaklaşık yarısına ulaşabilmiştir. Konferans sahiplerine ve konferansta sonuçlarını karşılaştırdığımız gruplardan data talebimiz de ya hiç cevaplanmamış ya da olumsuz dönüşler alınmıştır. Sistemimizin değerlendirilmesi yapılırken özellikle algoritmaların eğitilme kısmında diğer gruplara göre eksik veriyle çalışmamız performansımızı olumsuz yönde etkilemiştir. Ayrıca diğer grupların değerlendirme kriterleri yayınladıkları makalelerde ayrıntılı anlatılmadığı için karşılaştırmalarımızı bazı varsayımlarda bulunup yapmamıza sebep olmuştur. Grupların değerlendirme kriterleriyle ayrıntılı bilgi taleplerimiz de ya hiç cevaplanmamış ya da gizlilik politikaları gereği bilgi verilmemiştir. Sosyal medya yani resmi olmayan verilerde çalışma zorluğu herhangi bir dil kuralına uyulmaması ve verinin dikkat çekmesi, vurgulanması amacıyla veya yer kısıtı olmasından kısaltmalar kullanılması çalışmayı zorlaştıran başlıca etmenlerdir. Veri kümesi ingilizce tweet'lerden oluşmaktadır. Kavram tanıma için uzun yıllardır üstünde çalışılan gazete, dergi verilerinde oldukça yüksek performans sağlayan algoritmalar geliştirilmiştir. Fakat bu algoritmalar gündelik dille yazılan yukarıda bahsedilen tipte veriler için düşük performanslar vermektedir. Bu sebeple bu veri tiplerine özgü olarak yeni sistemler geliştirmek gerekmektedir. Bu çalışmada bu sorun üstüne yoğunlaşılmıştır. Çalışmada temel olarak 2 etapta deneyler yapılmıştır. İlk etapta; algoritmalara input olarak kelime uzunlukları, büyük/küçük harf ile başlama, emoji, hashtag, mention kullanımı, sesli/sessiz harf oranı vb gibi çok sayıda özellik verilmiştir. Bu özellik kümeleriyle yapılan çok sayıda deneylerde kayda değer bir iyileşme görülmemiştir. İkinci etapta önceki özelliklere ek olarak; Word2Vec özelliği kullanılmıştır. Bu özellikle beraber algoritmada yüksek oranda iyileşme gözlemlenmiştir. Yapılan deney sonuçlarına göre 2016 NEEL konferansına katılıp bu veri kümesini kullanan 3 çalışmadan 2'sinden daha iyi sonuç alınmıştır.