Skip to content

Bluseass/sms-with-view-

Folders and files

NameName
Last commit message
Last commit date

Latest commit

Β 

History

4 Commits
Β 
Β 
Β 
Β 

Repository files navigation

sms ham spam

Анализатор тСкста с использованиСм машинного обучСния

Π­Ρ‚ΠΎΡ‚ ΠΊΠΎΠ΄ прСдставляСт собой ΠΏΡ€ΠΈΠΌΠ΅Ρ€ Π°Π½Π°Π»ΠΈΠ·Π°Ρ‚ΠΎΡ€Π° тСкста для опрСдСлСния спама Π² сообщСниях с использованиСм ΠΌΠ΅Ρ‚ΠΎΠ΄Π° ΠΎΠΏΠΎΡ€Π½Ρ‹Ρ… Π²Π΅ΠΊΡ‚ΠΎΡ€ΠΎΠ² (SVM) ΠΈ Π²Π΅ΠΊΡ‚ΠΎΡ€ΠΈΠ·Π°Ρ†ΠΈΠΈ TF-IDF.

ΠŸΠΎΠ΄Π³ΠΎΡ‚ΠΎΠ²ΠΊΠ° Π΄Π°Π½Π½Ρ‹Ρ…

  1. Π—Π°Π³Ρ€ΡƒΠ·ΠΈΡ‚Π΅ Π½Π΅ΠΎΠ±Ρ…ΠΎΠ΄ΠΈΠΌΡ‹Π΅ Π±ΠΈΠ±Π»ΠΈΠΎΡ‚Π΅ΠΊΠΈ ΠΈ корпус стоп-слов.
  2. ΠžΡ‡ΠΈΡΡ‚ΠΈΡ‚Π΅ тСкст ΠΎΡ‚ ΠΏΡƒΠ½ΠΊΡ‚ΡƒΠ°Ρ†ΠΈΠΈ, ΠΏΡ€ΠΈΠ²Π΅Π΄ΠΈΡ‚Π΅ ΠΊ Π½ΠΈΠΆΠ½Π΅ΠΌΡƒ рСгистру ΠΈ ΠΏΡ€ΠΎΠ²Π΅Π΄ΠΈΡ‚Π΅ стСмминг.
  3. Π Π°Π·Π΄Π΅Π»ΠΈΡ‚Π΅ Π΄Π°Π½Π½Ρ‹Π΅ Π½Π° ΠΎΠ±ΡƒΡ‡Π°ΡŽΡ‰ΠΈΠΉ ΠΈ тСстовый Π½Π°Π±ΠΎΡ€Ρ‹.

ВСкторизация тСкста

  1. ΠŸΡ€ΠΈΠΌΠ΅Π½ΠΈΡ‚Π΅ TF-IDF для Π²Π΅ΠΊΡ‚ΠΎΡ€ΠΈΠ·Π°Ρ†ΠΈΠΈ тСкста.

ΠžΠ±ΡƒΡ‡Π΅Π½ΠΈΠ΅ ΠΌΠΎΠ΄Π΅Π»ΠΈ

  1. ΠžΠ±ΡƒΡ‡ΠΈΡ‚Π΅ модСль SVM с Π»ΠΈΠ½Π΅ΠΉΠ½Ρ‹ΠΌ ядром.

ΠžΡ†Π΅Π½ΠΊΠ° ΠΌΠΎΠ΄Π΅Π»ΠΈ

  1. ΠŸΠΎΠ»ΡƒΡ‡ΠΈΡ‚Π΅ ΠΏΡ€ΠΎΠ³Π½ΠΎΠ·Ρ‹ для тСстового Π½Π°Π±ΠΎΡ€Π°.
  2. Π’Ρ‹Π²Π΅Π΄ΠΈΡ‚Π΅ ΠΌΠ°Ρ‚Ρ€ΠΈΡ†Ρƒ ошибок, ΠΎΡ‚Ρ‡Π΅Ρ‚ ΠΎ классификации ΠΈ Ρ‚ΠΎΡ‡Π½ΠΎΡΡ‚ΡŒ ΠΌΠΎΠ΄Π΅Π»ΠΈ.

Π’Π΅Π±-интСрфСйс для Π°Π½Π°Π»ΠΈΠ·Π° тСкста

  1. Π˜ΡΠΏΠΎΠ»ΡŒΠ·ΡƒΠΉΡ‚Π΅ Π±ΠΈΠ±Π»ΠΈΠΎΡ‚Π΅ΠΊΡƒ ipywidgets для создания интСрфСйса.
  2. Π‘ΠΎΠ·Π΄Π°ΠΉΡ‚Π΅ Ρ„ΡƒΠ½ΠΊΡ†ΠΈΡŽ analyze_text, которая ΠΏΡ€ΠΈΠ½ΠΈΠΌΠ°Π΅Ρ‚ тСкст, Π²Π΅ΠΊΡ‚ΠΎΡ€ΠΈΠ·ΡƒΠ΅Ρ‚ Π΅Π³ΠΎ ΠΈ Π΄Π΅Π»Π°Π΅Ρ‚ ΠΏΡ€ΠΎΠ³Π½ΠΎΠ· с ΠΏΠΎΠΌΠΎΡ‰ΡŒΡŽ ΠΎΠ±ΡƒΡ‡Π΅Π½Π½ΠΎΠΉ ΠΌΠΎΠ΄Π΅Π»ΠΈ.
  3. Π‘ΠΎΠ·Π΄Π°ΠΉΡ‚Π΅ ΠΊΠ½ΠΎΠΏΠΊΠΈ для запуска Π°Π½Π°Π»ΠΈΠ·Π° ΠΈ очистки Π²Π²ΠΎΠ΄Π°.
  4. ΠžΡ‚ΠΎΠ±Ρ€Π°Π·ΠΈΡ‚Π΅ тСкстовоС ΠΏΠΎΠ»Π΅ для Π²Π²ΠΎΠ΄Π°, ΠΊΠ½ΠΎΠΏΠΊΠΈ ΠΈ тСкстовоС ΠΏΠΎΠ»Π΅ для Π²Ρ‹Π²ΠΎΠ΄Π° Ρ€Π΅Π·ΡƒΠ»ΡŒΡ‚Π°Ρ‚Π°.

Π­Ρ‚ΠΎΡ‚ ΠΊΠΎΠ΄ позволяСт Π²Π°ΠΌ ΠΈΠ½Ρ‚Π΅Ρ€Π°ΠΊΡ‚ΠΈΠ²Π½ΠΎ ΠΏΡ€ΠΎΠ²Π΅Ρ€ΡΡ‚ΡŒ сообщСния Π½Π° Π½Π°Π»ΠΈΡ‡ΠΈΠ΅ спама, ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΡƒΡ ΠΎΠ±ΡƒΡ‡Π΅Π½Π½ΡƒΡŽ модСль SVM.

About

swv

Resources

Stars

Watchers

Forks

Releases

No releases published

Packages

No packages published