여기서는 영상기본기(11)에서 다루었던 내용을 이어서 Color space conversion부터 설명할까한다...


5. Color Space Conversion

□ Convert RGB to YCbCr color space.
□ 각각 명암과 색 정보를 갖는 YCbCr 로 변환시킴으로 영상처리를 보다 쉽고 잘 할 수 있다. 
□ Format : YCbCr 4:4:4 YCbCr 4:2:2, YCbCr 4:2:0 등

사용자 삽입 이미지
이렇게 변환된 영상데이터는 휘도를 조정하고자 할 때는 Y 데이터를 Color를 조정하고자 할 때는
CbCr 데이터를 제어하면 가능하게 된다. 이에 반하여 RGB영상데이터는 휘도+컬러 성분을 모두 갖고
있기 때문에 휘도만을, 혹은 컬러만을 제어하기가 어렵다.
 
사용자 삽입 이미지
 
 
6. Auto White Balance
 
□사물에서 반사되는 영상은 Color temperature에 따라 spectrum이 shift된다.
□사람의 눈은 Color temperature에 대해 AWB를 진행하여 흰색을 흰색으로 인식하지만 사진 혹은
   영상에서는 흰색으로 보이지 않게 되는데 이러한 이유로 White Balance를 진행하게 된다.
□기본적으로 Cb,Cr 값을 체크하여 shift 된 값 만큼 control하여 원래의 값으로 환원될 수 있도록
   한다.

사용자 삽입 이미지

사용자 삽입 이미지
 
 
7. Auto Exposure
 
□ 원하는 target 영상 data level이 나올 때 까지 자동으로 노출시간을 조정해 주는 기능을 말한다.
이것은 현재상태의 영상을 보아, 주로 Y value를 측정하여 노출값이 부족한지, 혹은 과도한지를
판단하여 적정 노출값을 세팅해주는 기능이다.
 

사용자 삽입 이미지

8. Edge Enhancements

□ 영상에서 눈에 민감한 부분은 배경보다는 윤곽선임.
□ 위 윤곽선 부분은 high frequency 성분으로 이 성분을 더욱 sharp하게 처리.


영상보정처리 기술의 미래.


사용자 삽입 이미지
 
영상보정처리는 이제 인간의 눈을 즐겁게하는 기술을 넘어서 인식하는데 용이한 기법으로
발전하고 있기 때문에 비젼카메라의 발전과 더불어 매우 중요한 기술로 인식되고 있다..
일전에 이야기한대로 이 Page에서는 영상보정 처리과정에 대한 세부 알고리즘에 대해서

소개하도록 한다. (글이 길어질 것이므로 여기서는,

Bayer-> Interpolation -> Color correction -> Gamma correction까지만 우선

게재하고 이어서 나머지를 게재하려고 한다.)


1. 전체 영상보정 FLOWCHART

이야기했듯이 영상보정 FLOWCHART및 방식은 너무나 많은 종류가 있기 때문에 어느 것이

정통하다고 볼 수는 없으나 현재 상용화되어 있는 영상보정 처리 기술의 한종류를 소개하고

하기의 FLOW에 맞추어 설명하도록 한다.

사용자 삽입 이미지

2. SENSOR -> BAYER -> INTERPOLATION

사용자 삽입 이미지

2-1. SENSOR -> BAYER

 Bayer Image (Mosaic)
□ 8bit 의 raw data.
□ Data 추출 순서에 따라 RGRG… 또는 BGBG 등의 format.
□ 칼라 sensor도 Bayer Data 자체는 흑백으로 보임.

사용자 삽입 이미지

사용자 삽입 이미지

2-2. BAYER -> INTERPOLATION

Interpolation
□ 8bit Bayer raw data에서 24bit RGB data 를 계산하여 추출하는 방식.
□ 영상이 가지고 있는 R,G,B 정보는 Color Filter에 의해서 각각의 값들만 CIS가 받아 들인다.
□ 8bit Bayer data만으로는 color정보를 표현할 수 없어서 이웃에 있는 data로 24bit data 재생.
□ 방법에 따라서 2x2, 3x3, 5x5 등이 있음.

사용자 삽입 이미지

사용자 삽입 이미지

2-3. ADVANCED Technology
일반적으로 단일 층에 1개의 픽셀만을 제조할 수 있는 반면 Foveon사에서는 3개 픽셀이 단일층에

적층된 센서를 개발했다. 따라서 이 센서는 Interpolation이 필요 없게 되어 고도의 선명도를

가질 수 있으나 제조 비용, 수율 등을 고려했을 때 널리 사용될 수 있는 기술인지는 좀더 두고 봐야

할 일이다.

사용자 삽입 이미지

Interpolation을 사용하여 Color를 재현하는 일반센서들의 가장 큰 문제는 역시 Foveon에서

지적했듯이 모아레현상이라고 할 수 있다. 이는 Color성분뿐 아니라 휘도성분까지 이웃하는

Pixel 정보로부터 계산하여 보정을 하는한 어쩔 수 없는 기술적 한계가 아닐까....


사용자 삽입 이미지
*DSLR렌즈로 유명한 시그마라는 일본 회사에서 최근 Foveon센서를 장착한 디지털 카메라를
출시하기도 했다. 사진 전문가들에게서 어느정도의 호평을 얻을 수 있을런지 사뭇 기대가 된다.
 

3. Matrix(3x3)를 이용한 Color Correction
□CIS의 data는 Color Filter 의 distortion등으로 인해 정확한 파장대의 성분으로 추출 되지 못한다.
□이러한 distortion성분을 포함한 값을 추출해 이것의 역 계수 값으로 origin의 data 가지도록

   보정 필요.


사용자 삽입 이미지
 
4. Gamma Correction
□ CRT나 모니터 등의 Display장치는 고유의 왜곡 값을 가진다.
□ 이러한 Display장치의 왜곡 값을 미리 보정해 주기위한 처리 방법.
□ Output = (input/255)^Υ   x 255 , Typically Υ=0.45
□ 보정을 넘어 Contrast / Brightness기능으로도  활용됨.
사용자 삽입 이미지
 
다음은 Gamma Correction이후의 과정에 대하여 소개하도록 하겠다. ^^ (즐감하시길)
 
여기있는 글들은 대부분 영상 엔지니어적 관점에서 적은 것들입니다. 그래서 일반분들이 보기에는
다소 어려울 것도 같습니다....(다른 블로그들을 보니 훨씬 쉽게 게재하던데....저는 그게 잘
안되는군요..)___부족한 내용 등에 대해서 어느분이라도 귀뜸해 주시면 참고하겠습니다.
 

이미지센서는 크게 빛에 의해 발생된 전자를 그대로 출력시키는 CCD센서와,
빛에 의해 발생된 전자를 전압으로 바꾸어 출력시키는 CMOS센서로 나눌 수 있다.
기본적인 구조는 아래 그림상에서 설명이 가능하다.

사용자 삽입 이미지
 
CMOS는 일반적인 반도체 제조 설비 및 공정을 그대로 사용할 수 있으며, CCD는 CCD전용 생산
설비에서만 제조가 가능하다, 또한 CMOS는 단일 전원(0~3.3V)으로 동작이 가능하지만 CCD는
복합적인 전원(3.3V, 0V, -7, 12V등)이 필요되어진다. CMOS의 장점을 한마디로 요약하면
주변회로를 쉽게 집적할 수 있어 시스템의 제조가 쉬워지며 대량생산, 저가 공급이 가능하다는 점이며
CCD의 장점은 Reponse및 화질이 우수하여 디지털카메라/캠코더/감시카메라 등에 사용하기 적합
하지만, 시스템 제조가 비교적 어려우며, CMOS에 비해 생산성 및 가격적인 측면에서 불리하다.
 
CCD는 이미 1970년대부터 상용화되어 충분히 기술이 안정화된 반면, CMOS Image Sensor의 경우
1990년대에 들어 재사용되면서 상용화된 기술로 아직도 화질 개선 및 기술 개발 작업이 한창이다.
CMOS Image Sensor분야에서 꼽고 있는 중요한 3대 핵심 기술로 다음을 꼽는다.

[1] Photo Diode의 집광기술 - 좁은 면적,적은 노출시간동안 보다 많은 빛을 집광.
[2] 집광 된 빛을 Loss 없이 Digital 화 시키는 고정밀도 A/D Converter 기술.
[3] High Amplified Gain 기술 및 각종 신호 처리 기술.
 

일반적으로 CMOS Image Sensor(CFA를 같고 있는 Color Sensor)는 아래와 같은 형태의 Spectral

Response를 보인다. (@5100K 광원)

즉, 가시광선영역 (350nm~650nm정도)대의 빛에 잘 반응하며, 그 이상 또는 그 이하에서도

반응한다. 이러한 이유때문에 CMOS Image Sensor로 카메라를 제조할 때는 IR-Cut off filter를

사용하여 적외선 파장대의 빛이 감광되지 않도록 조치한다.

반대로 이야기하면 IR-Cut off filter를 장착하지 않으면 IR(Infre Red)에도 잘 반응한다는 뜻이다.

(물론 일반인들이 사용하는 카메라의 경우 그렇다는 것이며, 특수 용도로 IR-Cut off filter를

장착하지 않는 경우도 많으며, HVR-2000시리지는 기본적으로 IR-Cut Off filter를 장착하지

않은채 출하한다.)


사용자 삽입 이미지
 
이미지센서의 Spectral Response는 빛의 Color Temperature에 따라 달라지는데
Color Temperature 별 광원의 파장대는 다음과 같이 표현될 수 있다.
사용자 삽입 이미지
 
위에서 보면 5000k정도의 광원이 파장대별로 가장 균일한 Intensity를 가진다는 것을 알 수
있는데, 이러한 까닭으로 이미지센서, 디지털카메라의 각종 영상 시험에는 5100K의 광원이
사용된다고 할 수 있다.
 
*Collimator Lens는 원거리 사물을 가상의 거리로 변환시켜주는 역할을 하는데
현실적으로는 주로 카메라모듈/디지털카메라등 원거리 사물에 대한 Focusing검사 작업이
필요한 경우 사용되며, Vision Camera의 Focusing Point를 변경시킬 때 이용된다.
 
[1] Collimator Lens의 Concept
 
사용자 삽입 이미지

[2] Collimator LENS의 장점과 단점

사용자 삽입 이미지
 
[3] 부가설명
 
Collimator Lens는 원거리를 가상의 한정 공간으로 Matching시켜주기 때문에 그 이용가치가
대단하다고 볼 수 있지만, Collimator Lens의 핵심은 거리별 측정 값의 Quality이다.
실제 원하는 Target 거리와 Collimator Lens를 사용했을 때가 달라진다면 무용지물이기 때문이다.
첨부된 자료는 하이비젼시스템에서 실험된 50파이급 Collimator Lens의 실거리 검증 자료로,
실거리와 Collimator Lens를 사용한 가상거리에서의 최적의 Focus Point를 검증한 것이며
사람의 육안에 의존하지 않고 SW로 판단한 자료이므로 신빙성이 있는 검증 자료이다.
검증 결과 완벽하게 일치시킬 수 있음을 알 수 있으며, 이미 카메라 모듈의 Focusing분야에
적용중에 있다.  1.5meter를 환산한 검증 자료인데 각 거리별로 실거리와 대응되는 등가 Table은
별도로 제공된다.  // 참고하기 바란다.
 

내가 아는한 영상처리 분야에서 많이 애용(?)되는 원조 여자 모델은 딱 둘이다. (아류 모델들 제외)

한 사람은 Lena. 다른 한사람은 [꽃을 든 여자]라고 불리우는 DNP ITE color matching Chart이다.

물론 용도는 확연하게 다른데 Lena는 Scanning된 Image File이기 때문에 각종 영상처리 알고리즘

(압축 / ISP)등의 효과를 보려는 용도로 많이 사용되고 [꽃을 든 여자] 는 투과 Chart형태이며

디지털 카메라, 컬러TV 등의 영상 기기류를 평가할 때 사용된다.


1. Lena

다음이 그 유명한 Lens의 Image이다.

사용자 삽입 이미지

전체적으로 Reddish한 것이기 당시의 스캐닝 기술의 다소 허접함을 보는듯하다....그래도 35년전

Personal Computer가 있지도 않았고 대다수의 사람들이 컴퓨터를 꿈같은 존재로 여겼을 당시에

영상처리의 표준을 정하느라 스캐너를 동원하여 이미지 화일을 만들었다니.........미국이 기술적으로

수십년 앞서있는 대단한 나라인 것만은 틀림없어 보인다..


레나의 Story에 대하여는 비교적 잘 알려져있다.

http://www.cs.cmu.edu/~chuck/lennapg/

1972년 11월 플레이보이지의, 레나 이미지는 Southern California 대학에서 최초로 스캔되어

지금까지 사용되고 있다고 한다....35년이 된 셈이다. 그리고 왜 그 많은 이미지들 가운데

플레이보이지의 '레나'가 스캔되어 영상처리분야의 표준 이미지가 되었는가에 대해서는 "A Note on

Lena, IEEE TRANSACTIONS ON IMAGE PROCESSING. VOL. 5. NO. 1. JANUARY 1996" 에서

설명되고 있다.


First, the image contains a nice mixture of detail, flat regions, shading, and texture that do a good job of testing various image processing algorithms. It is a good test image! Second, the Lena image is a picture of an attractive woman.

한마디로 영상처리 하기에 좋은 조건을 가진 이미지인데다 매혹적인 여자 사진이기 때문에

선택되었단다....


Lena의 원래 이미지는 누드이다.** (외설 논란으로 원본 그림은 삭제)

 
 
2. 꽃을 든 여자 (a girl with carnation)
http://www.dnp.co.jp/semi/e/test/b_pattern.html
 
이러한 서방의 영상처리 기술에 대항해온 일본의 자존심도 대단하다...
 
일본 DNP (Dai Nippon Printing)사에서 투과 Chart로 제작하여 자사의 DNP Viewer와 더불어
컬러 TV분야에 있어서 만큼은 일약 세계적으로 사랑받아온 모델이 바로 이분이다.
 
사용자 삽입 이미지
 
ITE (Information and Television Engineers) 표준 Chart가운데 하나로 사용되고 있으며
Television 화면 조정/평가용으로 많이 사용되어 왔다.
색표현이 어렵다는 하늘색과 빨간색, 그리고 TV조정의 필수인 선홍색의 피부까지 갖춘 완벽한 모델
이미지이다. 아쉽게도 모델에 대해서는 많이 알려져 있지 않으며, 일본 모델이며 10년전에 들은
이야기가 그때 이미 할머니였다고 하는데.... 많은 정보를 알 수 없는 까닭은 개인적인 부분에 대해서는
공개하기 꺼려하는 일본 사회의 폐쇄적인 면 때문일까?...
일본 친구에게도 물어보았으나 아직 알아낸 것이 없다고 한다. 혹시 이분에 대해 잘알고 있는
사람은 정보를 공유해주시길..^^
 
각기 다른 영상 분야에서 동서양의 여인들이 표준 모델이 되었다는 사실은 매우 흥미로운 일이
아닐 수 없다. 정작 모델 본인들은 자신들이 얼마나 인류 기술 발전에 지대한 공헌을 해왔는지를
알고 있었는지 모르겠다.^^ 그리고 대한민국에서도 언제가 이런 의미있는 모델들이 나오길~~~~
 
[원출처 일부: 1. OpenCV의 T9T9님의 자료 2. DNP Japanese Web site 3. 기타]

이것은 MTF 와 Resolution TEST에 관한 나의 견해를 정리한 것이다.

사용자 삽입 이미지
 
MTF는 단일 Resolution Chart, 즉 이미 계산된 lp/mm에 의해 선정된 일정한 선굵기를 갖는
Chart를 만들어 MTF가 측정되는지를 보는데 사용한다. 예를 들어 100본 정도의 선들로 채워진
MTF Chart를 가지고 타켓 카메라로 촬용했을 때 MTF가 90%이상 도달하는지를 보고자 할 때
주로 사용한다. 그러한 특징을 이용하여 카메라 모듈의 Focusing작업을 하는데 많이 사용되곤 한다.
즉, MTF 90%이상 나오는 지점을 Focus의 peak라고 보고 PASS/FAIL을 결정할 수 있다.
또한 이 MTF는 일정한 패턴을 갖는 챠트를 사용할 수 있으므로 측정 SW를 구현하는 것도 비교적
수월하다. 단점은 이미 선정된 lp/mm에 못미치거나 이를 훨씬 초과하는 카메라를 만났을 때는
무용지물이 된다는 것이다. 그러므로 카메라와 렌즈의 성능을 측정하는데는 미흡하다.
 
아래 Chart 영상이 이러한 MTF를 측정 방식을 이용한 카메라 모듈 Focusing에 활용되는 부류의
챠트이다. 대각선 패턴을 넣는 이유는 카메라가 어느 방향의 패턴에서 혹 이상 반응을 보이는지
여부를 보기 위해서이다. 이 방식은 비젼인식 추적 등이 필요없기 때문에 SW구현이 대단히 쉽다.
요즈음 하이비젼에서는 이러한 방식의 단순  Focusing은 더 이상 사용하지 않고 있다. ^^
사용자 삽입 이미지
 
Resolution TEST - 주로 TV본 측정이라고 불리우는- 측정 방법은 여러 lp/mm를 갖는 챠트를
만들어 과연 타켓 카메라가 어느 TV본까지를 구분할 수 있는가를 측정하여 성능을 알아내는
방법이다. 예를들어 100본부터 1600본까지 굵기를 가변시켜가면서 챠트를 형성한다음 카메라로
촬용하게되면 모아레가 나오는 지점을 볼 수 있는데 일반적으로 이 지점을 한계지점으로 보아
모아레가 발생하지 않는 직전 지점까지를 해당 카메라의 성능으로 인정한다.
여러 디지털카메라 리뷰 사이트에서 MTF보다는 Resolution TEST를 많이 하는 이유가 바로 이러한
이유에서이다.
 
하기 챠트가 이러한 Resolution(해상력)검사에 많이 이용되곤하는 ISO12233에 규정된 PIMA챠트이다.
사용자 삽입 이미지
 
확대하여 부분을 보면 아래와 같이 약450본 지점에서 모아레가 발생하여 450본 정도의 성능을
갖는 카메라라고 볼 수 있다는 뜻이다.
사용자 삽입 이미지
 
PIMA Chart에는 SFR(Special Frequency Response) 측정을 할 수 있도록 사선 패턴이 들어 있는데
이 방식의 Focusing Software도 외국계(주로 Nokia, Motorola) 폰 회사에서는 많이 사용하고 있다.
단점은 사람 인지 부분과 감이 좀 떨어진다는 것....우리 하이비젼도 이미 구현 완료. 적용하고 있는
알고리즘인데 아직은 비교적 EIAJ 방식을 더 추천하고 있다.
**ISO12233 PIMA챠트에 대하여는 다음에 좀더 자세히 정리하기로 하고~
 
이것은 Resolution(해상력)검사에 많이 이용되는 또다른 형태인 EIAJ 일본공업규격 Chart이다.
사용자 삽입 이미지
비젼 인식 부분과 다양한 계산 능력이 필요하지만 사람의 인지 능력과 가장 호흡이 잘 맞으며
카메라 성능 검사에도 탁월하기때문에 이를 정형화된 소프트웨어로 구현하여 사용한다면 대단히
유용한 툴이 된다는 것을 알 수 있다. 이 부분은 이미 소개한 적이 있으므로 생략.
 
그리고 이 블로그에 정리된 자료들은 대부분 다른 곳에 게재된 것을 사용하지 않고 내가 작성한
것들이 주류를 이루고 있는데, 따라서 나의 개인 견해 또한 나의 철학(?)이 들어간 내용들이 정리된
것들도 많다. 즉, 100% 업계에서 인정되는 진리가 아닐 수도 있다는 뜻이다...
반대로, 다른 곳에서는 쉽게 볼 수 없는 내용들도 있어 내 블로그만의 특색을 갖고자 하는 것이다.^^
 
그래도 나의 견해에 동감해 주시는 분들이 많이 계셨으면하는 바람이다.
 
사용자 삽입 이미지
 
* 참고로 CS-Mount에 5mm Spacer를 부착하면 C-Mount와 호환하여 사용이 가능하다.
  위에서 보면 알듯이 Flange Back이 5mm 차이나기 때문이다.
사용자 삽입 이미지
 
MTF는 피사체를 통해 변환된 빛 광량의 정도를 계산한 것이다.
즉, 원본(피사체)을 얼마나 충실하게 변환시켰는가를 측정한다는 뜻인데, 이 MTF는 주로
렌즈를 결합한 카메라의 성능 또는 최적의 Lens focusing위치 등을 측정하는데 이용된다.
 
사용자 삽입 이미지
 
MTF를 이용한 Focusing은 일정한 패턴에 의존하여 작업이 가능하기 때문에 소프트웨어로 판별하기
용이하다는 장점이 있는 반면, 패턴의 굵기 좌우되는 경향이 커서 패턴이 일정 굵기 이상일 경우에는
측정 불가 상태가 되는 단점이 있다.