반응형

전체 글 673

[python QT] 첫 번째 응용 만들기

안녕하세요. 언제나휴일입니다. 파이썬으로 GUI(Graphic User Interface) 프로그램을 작성할 때 QT라이브러리를 많이 사용합니다. 파이썬에서 QT라이브러리를 사용할 수 있게 제공하는 다양한 모듈 중에 여기에서는 PyQt5를 사용할게요. PyQt5모듈이 설치 전이라면 먼저 설치하세요. 더보기 1. 첫 번째 응용 만들기 파이썬 소스 파일에 다음처럼 코드를 작성하시고 실행시켜 보세요. import PyQt5.QtWidgets as qtwid app = qtwid.QApplication([]) mw = qtwid.QMainWindow() mw.setWindowTitle("FirstQTApp") mw.show() app.exec_() 다음과 같은 창이 뜨는 것을 알 수 있어요. 2. 소스 설명 2..

Python/QT 2020.11.19

[빅데이터 python] 웹 검색 엔진 만들기 - 7. 검색기(TF-IDF)

안녕하세요. 언제나휴일입니다. 앞에서 웹 수집 로봇 및 형태소 분석, 역파일 생성에 관하여 구현하였습니다. [빅데이터 python] 웹 검색 엔진 만들기 - 1. 웹 검색 엔진 소개 [빅데이터 python] 웹 검색 엔진 만들기 - 2. 형태소 및 Inverse 테이블 정의 [빅데이터 python] 웹 검색 엔진 만들기 - 3. MorphemeSql 클래스 정의 [빅데이터 python] 웹 검색 엔진 만들기 - 4. InverseSql 클래스 정의 [빅데이터 python] 웹 검색 엔진 만들기 - 5. 수집한 웹 페이지 형태소 분석 및 역파일 생성하기 [빅데이터 python] 웹 검색 엔진 만들기 - 6. 수집 결과를 워드 클라우드로 나타내기 이번에는 검색 요청한 내용을 포함하는 웹 페이지를 TF-IDF..

[빅데이터 python] 웹 검색 엔진 만들기 - 6. 수집 결과를 워드 클라우드로 나타내기

안녕하세요. 언제나휴일입니다. 앞에서 웹 수집 로봇 및 형태소 분석, 역파일 생성에 관하여 구현하였습니다. [빅데이터 python] 웹 검색 엔진 만들기 - 1. 웹 검색 엔진 소개 [빅데이터 python] 웹 검색 엔진 만들기 - 2. 형태소 및 Inverse 테이블 정의 [빅데이터 python] 웹 검색 엔진 만들기 - 3. MorphemeSql 클래스 정의 [빅데이터 python] 웹 검색 엔진 만들기 - 4. InverseSql 클래스 정의 [빅데이터 python] 웹 검색 엔진 만들기 - 5. 수집한 웹 페이지 형태소 분석 및 역파일 생성하기 이번에는 수집 로봇에 의해 얻어온 결과를 워드 클라우드로 표시하고 테이블로 나타내기로 할게요. 새로운 프로젝트를 생성하고 아에서 작성한(1~4) 파일들은 ..

[빅데이터 python] 웹 검색 엔진 만들기 - 5. 수집한 웹 페이지 형태소 분석 및 역파일 생성하기

안녕하세요. 언제나휴일입니다. [빅데이터/빅데이터 with python] - [빅데이터 python] 웹 검색 엔진 만들기 - 1. 웹 검색 엔진 소개 [빅데이터/빅데이터 with python] - [빅데이터 python] 웹 검색 엔진 만들기 - 2. 형태소 및 Inverse 테이블 정의 [빅데이터/빅데이터 with python] - [빅데이터 python] 웹 검색 엔진 만들기 - 3. MorphemeSql 클래스 정의 [빅데이터/빅데이터 with python] - [빅데이터 python] 웹 검색 엔진 만들기 - 4. InverseSql 클래스 정의 이번에는 웹 수집 로봇이 수집한 웹 페이지를 형태소 분석하고 이를 형태소 테이블 및 역파일 테이블에 추가하는 부분을 구현합시다. 1. 사용할 라이브러리..

[빅데이터 python] 웹 검색 엔진 만들기 - 4. InverseSql 클래스 정의

안녕하세요. 언제나휴일입니다. [빅데이터/빅데이터 with python] - [빅데이터 python] 웹 검색 엔진 만들기 - 1. 웹 검색 엔진 소개 [빅데이터/빅데이터 with python] - [빅데이터 python] 웹 검색 엔진 만들기 - 2. 형태소 및 Inverse 테이블 정의 [빅데이터/빅데이터 with python] - [빅데이터 python] 웹 검색 엔진 만들기 - 3. MorphemeSql 클래스 정의 이번에는 Inverse 테이블과 연동하는 InverseSql 클래스를 정의합시다. 1. 사용할 라이브러리 파이썬에서 MSSQL을 사용하려면 pymssql을 포함합니다. 데이터베이스와 연결하는 부분은 미리 작성한 SqlCon을 사용할 거예요. import pymssql from SqlC..

[빅데이터 python] 웹 검색 엔진 만들기 - 3. MorphemeSql 클래스 정의

안녕하세요. 언제나휴일입니다. [빅데이터/빅데이터 with python] - [빅데이터 python] 웹 검색 엔진 만들기 - 1. 웹 검색 엔진 소개 [빅데이터/빅데이터 with python] - [빅데이터 python] 웹 검색 엔진 만들기 - 2. 형태소 및 Inverse 테이블 정의 이번에는 형태소 테이블과 연동하는 MorphemeSql 클래스를 정의합시다. 1. 사용할 라이브러리 파이썬에서 MSSQL을 사용하려면 pymssql을 포함합니다. 데이터베이스와 연결하는 부분은 미리 작성한 SqlCon을 사용할 거예요. import pymssql from SqlCon import SqlCon 2. AddMorpheme - 형태소 추가하기 제일 먼저 형태소를 추가하는 메서드를 정의합시다. class Mo..

[빅데이터 python] 웹 검색 엔진 만들기 - 2. 형태소 및 Inverse 테이블 정의

안녕하세요. 언제나휴일입니다. 앞에서 수집할 웹 페이지 후보 테이블(Candidate)와 수집한 웹 페이지 테이블(WebPage)을 만들었어요. [빅데이터/빅데이터 with python] - [빅데이터 python] 웹 수집 로봇 만들기 - 1. 테이블 정의 1. Morpheme - 형태소 테이블 만들기 CREATE TABLE [dbo].[Morpheme] ( [mid] INT IDENTITY (1, 1) NOT NULL, [word] VARCHAR (50) NOT NULL, PRIMARY KEY CLUSTERED ([mid] ASC), CONSTRAINT [WU] UNIQUE NONCLUSTERED ([word] ASC) ); 형태소 테이블에는 형태소(word)와 일련 번호(mid)를 멤버로 갖습니다...

[빅데이터 python] 웹 검색 엔진 만들기 - 1. 웹 검색 엔진 소개

안녕하세요. 언제나휴일입니다. 앞에서 우리는 웹 페이지를 수집하는 로봇과 형태소 분석기를 만들었습니다. 더보기 [빅데이터/빅데이터 with python] - [빅데이터 python] 웹 수집 로봇 만들기 - 1. 테이블 정의 [빅데이터/빅데이터 with python] - [빅데이터 python] 웹 수집 로봇 만들기 - 2. EHHelper 클래스 정의 [빅데이터/빅데이터 with python] - [빅데이터 python] 웹 수집 로봇 만들기 - 3. WebPage 클래스 정의 [빅데이터/빅데이터 with python] - [빅데이터 python] 웹 수집 로봇 만들기 - 4. WebPageSql 클래스 정의 [빅데이터/빅데이터 with python] - [빅데이터 python] 웹 수집 로봇 만들기 ..

[빅데이터 python] 형태소 분석기 만들기 - 3. 사용하기

안녕하세요. 언제나휴일입니다. [빅데이터/빅데이터 with python] - [빅데이터 python] 형태소 분석기 만들기 - 1. Morpheme 클래스 정의 [빅데이터/빅데이터 with python] - [빅데이터 python] 형태소 분석기 만들기 - 2. MorphemeParser 클래스 정의 이번에는 앞에서 만든 형태소 분석기인 MorphemeParser를 사용해 보기로 할게요. MorphemeParser와 WebRobot을 사용합니다. from MorphemeParser import MorphemeParser from WebRobot import WebRobot 수집할 URL을 입력받아 수집합니다. url = input("수집할 URL(예:http://example.co.kr):") wp = ..

[빅데이터 python] 형태소 분석기 만들기 - 2. MorphemeParser 클래스 정의

안녕하세요. 언제나휴일입니다. 2020/11/16 - [빅데이터/빅데이터 with python] - [빅데이터 python] 형태소 분석기 만들기 - 1. Morpheme 클래스 정의 이번에는 형태소 분석기 클래스(MorphemeParser)를 정의합시다. 형태소 분석기는 소스 내용을 형태소 별로 구분하는 부분과 같은 형태소를 하나로 합치는 부분으로 구성할 거예요. 1. 사용할 라이브러리 포함 형태소를 나타낸 Morpheme 클래스를 사용합니다. 문자열 내용 중에 태그나 Html 특수 문자, 심볼 등을 없애기 위해 EHHelper도 사용합니다. from Morpheme import Morpheme from EHHelper import EHHelper 2. Merge - 같은 형태소를 하나로 합치는 메서드..

반응형