[프로그래머스] [1차] 뉴스 클러스터링/파이썬

[1차] 뉴스 클러스터링

문제 설명

뉴스 클러스터링

여러 언론사에서 쏟아지는 뉴스, 특히 속보성 뉴스를 보면 비슷비슷한 제목의 기사가 많아 정작 필요한 기사를 찾기가 어렵다. Daum 뉴스의 개발 업무를 맡게 된 신입사원 튜브는 사용자들이 편리하게 다양한 뉴스를 찾아볼 수 있도록 문제점을 개선하는 업무를 맡게 되었다.

개발의 방향을 잡기 위해 튜브는 우선 최근 화제가 되고 있는 카카오 신입 개발자 공채 관련 기사를 검색해보았다.

• 카카오 첫 공채..'블라인드' 방식 채용
• 카카오, 합병 후 첫 공채.. 블라인드 전형으로 개발자 채용
• 카카오, 블라인드 전형으로 신입 개발자 공채
• 카카오 공채, 신입 개발자 코딩 능력만 본다
• 카카오, 신입 공채.. 코딩 실력만 본다
• 카카오 코딩 능력만으로 2018 신입 개발자 뽑는다
  기사의 제목을 기준으로 블라인드 전형에 주목하는 기사와 코딩 테스트에 주목하는 기사로 나뉘는 걸 발견했다. 튜브는 이들을 각각 묶어서 보여주면 카카오 공채 관련 기사를 찾아보는 사용자에게 유용할 듯싶었다.

유사한 기사를 묶는 기준을 정하기 위해서 논문과 자료를 조사하던 튜브는 자카드 유사도라는 방법을 찾아냈다.

자카드 유사도는 집합 간의 유사도를 검사하는 여러 방법 중의 하나로 알려져 있다. 두 집합 A, B 사이의 자카드 유사도 J(A, B)는 두 집합의 교집합 크기를 두 집합의 합집합 크기로 나눈 값으로 정의된다.

예를 들어 집합 A = {1, 2, 3}, 집합 B = {2, 3, 4}라고 할 때, 교집합 A ∩ B = {2, 3}, 합집합 A ∪ B = {1, 2, 3, 4}이 되므로, 집합 A, B 사이의 자카드 유사도 J(A, B) = 2/4 = 0.5가 된다. 집합 A와 집합 B가 모두 공집합일 경우에는 나눗셈이 정의되지 않으니 따로 J(A, B) = 1로 정의한다.

자카드 유사도는 원소의 중복을 허용하는 다중집합에 대해서 확장할 수 있다. 다중집합 A는 원소 1을 3개 가지고 있고, 다중집합 B는 원소 1을 5개 가지고 있다고 하자. 이 다중집합의 교집합 A ∩ B는 원소 1을 min(3, 5)인 3개, 합집합 A ∪ B는 원소 1을 max(3, 5)인 5개 가지게 된다. 다중집합 A = {1, 1, 2, 2, 3}, 다중집합 B = {1, 2, 2, 4, 5}라고 하면, 교집합 A ∩ B = {1, 2, 2}, 합집합 A ∪ B = {1, 1, 2, 2, 3, 4, 5}가 되므로, 자카드 유사도 J(A, B) = 3/7, 약 0.42가 된다.

이를 이용하여 문자열 사이의 유사도를 계산하는데 이용할 수 있다. 문자열 FRANCE와 FRENCH가 주어졌을 때, 이를 두 글자씩 끊어서 다중집합을 만들 수 있다. 각각 {FR, RA, AN, NC, CE}, {FR, RE, EN, NC, CH}가 되며, 교집합은 {FR, NC}, 합집합은 {FR, RA, AN, NC, CE, RE, EN, CH}가 되므로, 두 문자열 사이의 자카드 유사도 J("FRANCE", "FRENCH") = 2/8 = 0.25가 된다.

입력 형식

• 입력으로는 str1과 str2의 두 문자열이 들어온다. 각 문자열의 길이는 2 이상, 1,000 이하이다.
• 입력으로 들어온 문자열은 두 글자씩 끊어서 다중집합의 원소로 만든다. 이때 영문자로 된 글자 쌍만 유효하고, 기타 공백이나 숫자, 특수 문자가 들어있는 경우는 그 글자 쌍을 버린다. 예를 들어 ab+가 입력으로 들어오면, ab만 다중집합의 원소로 삼고, b+는 버린다.
• 다중집합 원소 사이를 비교할 때, 대문자와 소문자의 차이는 무시한다. AB와 Ab, ab는 같은 원소로 취급한다.

출력 형식

입력으로 들어온 두 문자열의 자카드 유사도를 출력한다. 유사도 값은 0에서 1 사이의 실수이므로, 이를 다루기 쉽도록 65536을 곱한 후에 소수점 아래를 버리고 정수부만 출력한다.

예제 입출력

str1	str2	answer
FRANCE	french	16384
handshake	shake hands	65536
aa1+aa2	AAAA12	43690
E=M*C^2	e=m*c^2	65536

풀이

• for문과 try문을 이용해서 모든 경우를 계산한 경우 (좋은 풀이는 아님)

from collections import Counter 
def solution(str1, str2):
    answer = 0

    # 1. str1의 값을 2칸단위로 쪼갬
    # 2. 두값이 모두 알파벳이면 소문자로 바꿔서 list1에 저장 
    list1 = []
    for i in range(0, len(str1)-1): 
        if str1[i:i+2].isalpha(): list1.append(str1[i:i+2].lower())

    # 위의 str1에 했던 작업을  str2에 동일하게 적용 
    list2 = []
    for i in range(0, len(str2)-1): 
        if str2[i:i+2].isalpha(): list2.append(str2[i:i+2].lower())

    # 다중집합이 아닌 경우에는 교집합 / 합집합으로 계산 
    # 단, 분모가 0이어서 try가 실패하는 경우에는 65536 출력 
    if (len(list1) == len(set(list1))) & (len(list2) == len(set(list2))): 
        try: 
            answer = len(set(list1).intersection(set(list2))) / (len(set(list1).union(set(list2))))
            return int(answer * 65536)
        except: 
            return 65536
    # 다중집합의 경우 
    # 1. list1의 원소와 list2의 원소에 대해서 Counter를 계산 
    # 2. 계산한 Counter의 key를 전부 참조하면서 긴 값은 union에 짧은 값은 intersection에 저장 
    # 단, 둘 중 하나에만 있는 경우는 union에만 저장 (except 부분) 
    # 위와 마찬가지로 분모가 0인 경우에는 65536 출력 
    else: 
        union = 0
        inter = 0
        clist1 = Counter(list1)
        clist2 = Counter(list2)
        for i in set(list(clist1.keys()) + list(clist2.keys())): 
            # 다중집합에서도 두개의 집합에만 포함되는 경우는 긴쪽은 union, 짧은 쪽은 inter에 저장 
            try: 
                # 긴 값을 찾아서 긴 값을 union, 짧은 값을 inter에 저장 
                if clist1[i] > clist2[i]: 
                    union += clist1[i]
                    inter += clist2[i]
                else: 
                    inter += clist1[i]
                    union += clist2[i]
               # 다중집합에서도 하나의 집합에만 포함되는 경우는 union에만 저장 
            except: 
                if i in list1: union += clist1[i]
                else : union += clist2[i]
        try:      
            answer = inter / (union)
            return int(answer * 65536)
        except:
            return 65536

다른 사람의 풀이

• 위와 같은 코드를 단순하게 계산
  1. for문을 list comprehension으로 대체
  2. 분모가 0인 케이스를 앞으로 빼내서 try, except를 두번할 필요가 없었음
  3. 각각의 list에서 counter를 만드는게 아니라 합집합과 교집합에서 counter를 만듬

import re
import math

def solution(str1, str2):
    # 두칸씩 쪼갠 값이 모두 문자이면 str1, str2에 append 
    str1 = [str1[i:i+2].lower() for i in range(0, len(str1)-1) if not re.findall('[^a-zA-Z]+', str1[i:i+2])]
    str2 = [str2[i:i+2].lower() for i in range(0, len(str2)-1) if not re.findall('[^a-zA-Z]+', str2[i:i+2])]

    # 합집합과 교집합 계산 
    gyo = set(str1) & set(str2)
    hap = set(str1) | set(str2)

    # 합집합이 0이면 65536 출력 
    if len(hap) == 0 :
        return 65536

    # 교집합하고 합집합의 counter를 따로 계산
    gyo_sum = sum([min(str1.count(gg), str2.count(gg)) for gg in gyo])
    hap_sum = sum([max(str1.count(hh), str2.count(hh)) for hh in hap])

    return math.floor((gyo_sum/hap_sum)*65536)

출처: 프로그래머스 코딩 테스트 연습,https://programmers.co.kr/learn/challenges