매주 최근 투자유치가 있는 기술분야를 소개하는 'BLT 테크체크'

BLT 테크체크


매주 최근 투자유치가 있는 기술분야를 소개합니다.

유해 콘텐츠 멈춰!, AI 기반 콘텐츠 차단 기술

2024-02-06
조회수 475


유해 콘텐츠 차단은 모든 SNS 플랫폼의 화두이다. 미국 내 41개 주 정부는 페이스북·인스타그램의 과도한 중독성으로 미성년자 정신 건강에 피해를 주고 있다고 주장하고 메타(페이스북)를 상대로 소송을 제기하였다. 유럽연합집행위원회(EC)도 유해 콘텐츠 차단을 위한 조치에 관한 정보 제공을 요청하였다. 이렇듯 각각의 국 정부는 SNS 플랫폼 상, 유해 콘텐츠의 문제를 인지하였으며, 이러한 콘텐츠 차단을 제도적으로 도입하고 있다.


[그림] 메타(페이스북)의 유해 콘텐츠 차단을 위한 대응 시스템


유해 콘텐츠 차단 기술은 해시값 기반으로 차단하였다. 해시값 기반 기술은 사용자가 차단을 요청한 콘텐츠의 해시값을 기반으로 동일한 대상을 자동처리 하는 방식이었다. 최근, 기술적 트렌드는 기존 이미지의 해시값 기반 처리 기술 대신, 머신러닝 기법을 활용하여, Ensemble(앙상블) 기법을 활용하여 ‘성인(스팸) 이미지 추천 시스템’을 개발하여 적용하는 등 발전 되고 있다. 그러나 이러한 앙상블 기반 차단 기술은 아직 기술적 초기 단계이다.


[그림] 앙상블 기법 기반 유해 콘텐츠 차단 기술 예시


국내 스타트업들도 이러한 유해 콘텐츠 차단 기술을 AI 기반 기술을 적용하여 개발하고 있다. (주)파일러(대표 오재호)는 이러한 AI 기반 유해 콘텐츠 차단 기술력을 인정받아 투자유치(Series A, 105억 원)에 성공하였다. (주)파일러의 유해 콘텐츠 차단 솔루션 AiD는 광고주의 브랜드 이미지에 타격을 입힐 수 있는 유해 콘텐츠 (성인용, 증오 유발, 부정행위 유발 등) 부적절한 콘텐츠에 광고가 노출되지 않도록 차단한다. 이러한 기술력은 2023년 세계 최고 인공지능 학회인 CVPR(컴퓨터 비전과 패턴 인식 컨퍼런스)에 자체 비디오 검색 기술 관련 논문 등재에 이어 ICCV(국제 컴퓨터 비전 학회)에서 수상하는 등 영상 AI 분야에서 인정받았다. 이번 투자를 바탕으로 자체 모델 개발 역량을 강화하고 세이프티 스타트업으로 시장을 선도할 계획이다. 


[그림] (주)타일러의 AI 기반 유해 콘텐츠 차단 솔루션 ‘AiD’


국내 데이터 기업인 (주)지란지교데이터도 DNA(특징) 생성 기술을 기반으로 유해 콘텐츠를 검증하여, 코덱 변경 시에도 음란물 차단할 수 있는 기술을 개발하였다, 이를 통해, 해시값 변경 문제를 해결하여, 음란물 차단의 정확도와 과차단을 방지할 수 있는 기술이다. 이 외에도, (주)투링크도 유해 콘텐츠 차단기술을 개발하였다. (주)투링크는 블랙리스트 사이트 URL, DNS 분석 기술을 적용하여, 유해성 기반 모니터링 및 차단할 수 있는 기술을 개발하였다. 이를 통해, 사용자 맞춤 차단 및 개인정보 누출을 방지할 수 있는 특징이 있다.


[그림] (주)지란지교데이터의 유해 콘텐츠 차단 솔루션 ‘Webfilter’와 (주)투링크의 세이프링크


특허법인 BLT 리서치 센터는 “유해 콘텐츠 차단 시장은 극적인 성장을 이룰 것으로 예상된다. 이러한 기술 변화에 기업들은 관련 기술 개발은 새로운 기회가 될 것 같다.” 이를 위한, “AI 기반 해시값 분석, DNA 기반 콘텐츠 분석 기술의 권리 확보는 좋은 전략이 될 것으로 전망한다.”고 전했다.


특허법인 BLT는 2024년 현재 2천여개 이상의 혁신 스타트업들이 선택한 파트너로 IP 확보 및 대응전략수립은 물론 투자유치, 기술특례상장 등의 IP를 활용한 비즈니스 지원을 통해 기업의 성장과 성공을 함께 해왔다.



'BLT 테크체크'는 매주 최근 투자유치가 있는 기술분야를 소개합니다.


필자 소개

특허법인 BLT 리서치 센터

본사) 서울특별시 서초구 법원로3길 25, 1층 (서초동, 태흥빌딩)

T : 02-514-0104     F : 070-4855-0102     

E : info@blt.kr


인천지사) 인천광역시 연수구 컨벤시아대로 165, 포스코타워 빌딩 26층 (스테이지나인 송도 포스코타워점)

T : 032-710-5104     F : 070-4855-0102     

E : info@blt.kr

ⓒ 2023. BLT Patent & Law Firm All Rights Reserved.

회사명: 특허법인 비엘티 | 대표자명: 유철현 | 사업자 등록번호: 752-86-01744

본사) 서울특별시 서초구 법원로3길 25, 1층 (서초동, 태흥빌딩)

T : 02-514-0104     F : 070-4855-0102     E : info@blt.kr

인천지사) 인천광역시 연수구 컨벤시아대로 165, 포스코타워 빌딩 26층 (스테이지나인 송도 포스코타워점)

T : 032-710-5104     F : 070-4855-0102     E : info@blt.kr


ⓒ 2023. BLT Patent & Law Firm All Rights Reserved.