Outils pour le traitement d’imageOutils pour le traitement d’image • Synthèse de texture...

28
Thèse de Kévin Polisano (LJK) Marianne Clausel, Valérie Perrier (LJK) Laurent Condat (Gipsa-Lab) —> TEXTURE MODELING BY GAUSSIAN FIELDS WITH PRESCRIBED LOCAL ORIENTATION Outils pour le traitement d’image Synthèse de texture (2013 […] 2015) Super-résolution de lignes (2014-2015) Analyse de textures par TO monogène (2016) Super-résolution de sinusoïdes par TO monogène (2016) ANR ASTRES - ENS Lyon, le 19 novembre 2015

Transcript of Outils pour le traitement d’imageOutils pour le traitement d’image • Synthèse de texture...

Page 1: Outils pour le traitement d’imageOutils pour le traitement d’image • Synthèse de texture (2013 […] 2015) • Super-résolution de lignes (2014-2015) • Analyse de textures

Thèse de Kévin Polisano (LJK)Marianne Clausel, Valérie Perrier (LJK)Laurent Condat (Gipsa-Lab)

—> TEXTURE MODELING BY GAUSSIAN FIELDS WITH PRESCRIBED LOCAL ORIENTATION

Outils pour le traitement d’image • Synthèse de texture (2013 […] 2015) • Super-résolution de lignes (2014-2015) • Analyse de textures par TO monogène (2016) • Super-résolution de sinusoïdes par TO monogène (2016)

ANR ASTRES - ENS Lyon, le 19 novembre 2015

Page 2: Outils pour le traitement d’imageOutils pour le traitement d’image • Synthèse de texture (2013 […] 2015) • Super-résolution de lignes (2014-2015) • Analyse de textures

Polisano et al. - Texture modeling by Gaussian field with prescribed local orientation 2

The basic component : Fractional Brownian Field (FBF)

Harmonizable representation

complex Brownian measureroughness indicator

[Samorodnitsky,Taqqu,1997]

BH(x) =

Z

R2

e ix·⇠ � 1

k⇠kH+1dcW (⇠)

H=0.2

H=0.7

Page 3: Outils pour le traitement d’imageOutils pour le traitement d’image • Synthèse de texture (2013 […] 2015) • Super-résolution de lignes (2014-2015) • Analyse de textures

Polisano et al. - Texture modeling by Gaussian field with prescribed local orientation

~Vx0

↵x

0

Texture

orientation

3

Elementary field (Bonami-Estrade 2003, Biermé-Moisan- Richard 2015)

↵ = �⇡

2↵0 = 0

BH↵0,↵(x) =

Z

R2

(e ix·⇠ � 1)1[�↵,↵](arg ⇠ � ↵0)

k⇠kH+1dcW (⇠)

Page 4: Outils pour le traitement d’imageOutils pour le traitement d’image • Synthèse de texture (2013 […] 2015) • Super-résolution de lignes (2014-2015) • Analyse de textures

Polisano et al. - Texture modeling by Gaussian field with prescribed local orientation 4

Elementary field

~Vx0

x

0

Texture

orientation

↵ = 0.7↵0 = �⇡

3

BH↵0,↵(x) =

Z

R2

(e ix·⇠ � 1)1[�↵,↵](arg ⇠ � ↵0)

k⇠kH+1dcW (⇠)

Page 5: Outils pour le traitement d’imageOutils pour le traitement d’image • Synthèse de texture (2013 […] 2015) • Super-résolution de lignes (2014-2015) • Analyse de textures

Polisano et al. - Texture modeling by Gaussian field with prescribed local orientation 5

Elementary field

~Vx0

x

0

Texture

orientation

↵ = 0.6↵0 = �⇡

3

BH↵0,↵(x) =

Z

R2

(e ix·⇠ � 1)1[�↵,↵](arg ⇠ � ↵0)

k⇠kH+1dcW (⇠)

Page 6: Outils pour le traitement d’imageOutils pour le traitement d’image • Synthèse de texture (2013 […] 2015) • Super-résolution de lignes (2014-2015) • Analyse de textures

Polisano et al. - Texture modeling by Gaussian field with prescribed local orientation 6

Elementary field

~Vx0

x

0

Texture

orientation

↵ = 0.5↵0 = �⇡

3

BH↵0,↵(x) =

Z

R2

(e ix·⇠ � 1)1[�↵,↵](arg ⇠ � ↵0)

k⇠kH+1dcW (⇠)

Page 7: Outils pour le traitement d’imageOutils pour le traitement d’image • Synthèse de texture (2013 […] 2015) • Super-résolution de lignes (2014-2015) • Analyse de textures

Polisano et al. - Texture modeling by Gaussian field with prescribed local orientation 7

Elementary field

~Vx0

x

0

Texture

orientation

↵ = 0.4↵0 = �⇡

3

BH↵0,↵(x) =

Z

R2

(e ix·⇠ � 1)1[�↵,↵](arg ⇠ � ↵0)

k⇠kH+1dcW (⇠)

Page 8: Outils pour le traitement d’imageOutils pour le traitement d’image • Synthèse de texture (2013 […] 2015) • Super-résolution de lignes (2014-2015) • Analyse de textures

Polisano et al. - Texture modeling by Gaussian field with prescribed local orientation 8

Elementary field

~Vx0

x

0

Texture

orientation

↵ = 0.3↵0 = �⇡

3

BH↵0,↵(x) =

Z

R2

(e ix·⇠ � 1)1[�↵,↵](arg ⇠ � ↵0)

k⇠kH+1dcW (⇠)

Page 9: Outils pour le traitement d’imageOutils pour le traitement d’image • Synthèse de texture (2013 […] 2015) • Super-résolution de lignes (2014-2015) • Analyse de textures

Polisano et al. - Texture modeling by Gaussian field with prescribed local orientation 9

Elementary field

~Vx0

x

0

Texture

orientation

↵ = 0.2↵0 = �⇡

3

BH↵0,↵(x) =

Z

R2

(e ix·⇠ � 1)1[�↵,↵](arg ⇠ � ↵0)

k⇠kH+1dcW (⇠)

Page 10: Outils pour le traitement d’imageOutils pour le traitement d’image • Synthèse de texture (2013 […] 2015) • Super-résolution de lignes (2014-2015) • Analyse de textures

Polisano et al. - Texture modeling by Gaussian field with prescribed local orientation 10

Elementary field

~Vx0

x

0

Texture

orientation

↵ = 0.1↵0 = �⇡

3

BH↵0,↵(x) =

Z

R2

(e ix·⇠ � 1)1[�↵,↵](arg ⇠ � ↵0)

k⇠kH+1dcW (⇠)

Page 11: Outils pour le traitement d’imageOutils pour le traitement d’image • Synthèse de texture (2013 […] 2015) • Super-résolution de lignes (2014-2015) • Analyse de textures

Polisano et al. - Texture modeling by Gaussian field with prescribed local orientation 11

Elementary field

~Vx0

x

0

Texture

orientation

↵ = 0.05↵0 = �⇡

3

BH↵0,↵(x) =

Z

R2

(e ix·⇠ � 1)1[�↵,↵](arg ⇠ � ↵0)

k⇠kH+1dcW (⇠)

Page 12: Outils pour le traitement d’imageOutils pour le traitement d’image • Synthèse de texture (2013 […] 2015) • Super-résolution de lignes (2014-2015) • Analyse de textures

Polisano et al. - Texture modeling by Gaussian field with prescribed local orientation 12

Locally Anisotropic Fractional Brownian Field (LAFBF)

Definition: Our new Gaussian model LAFBF is a local versionof the elementary field

~Vx0

x

0

Texture

orientation

f 1/2(x0

, ⇠) =c↵0,↵(x0

, arg ⇠)

k⇠kH+1

The orientation may varies spatially. is now a differentiable function on

↵0

R2

[Polisano et al.,2014]

BH↵0,↵(x) =

Z

R2

(e ix·⇠ � 1)1[�↵,↵](arg ⇠ � ↵0(x))

k⇠kH+1dcW (⇠)

Page 13: Outils pour le traitement d’imageOutils pour le traitement d’image • Synthèse de texture (2013 […] 2015) • Super-résolution de lignes (2014-2015) • Analyse de textures

Polisano et al. - Texture modeling by Gaussian field with prescribed local orientation 13

Locally Anisotropic Fractional Brownian Field (LAFBF)

Definition: Our new Gaussian model LAFBF is a local versionof the elementary field

[Polisano et al.,2014]

BH↵0,↵(x) =

Z

R2

(e ix·⇠ � 1)1[�↵,↵](arg ⇠ � ↵0(x))

k⇠kH+1dcW (⇠)

V⃗x0

c̃α0,α(x0, arg ξ)

x0

α

Textureorientation

f 1/2(x0, ξ) =cα0,α(x0, arg ξ)

∥ξ∥H+1

(a) (b) (c)

~Vx0

x

0

Texture

orientation

Page 14: Outils pour le traitement d’imageOutils pour le traitement d’image • Synthèse de texture (2013 […] 2015) • Super-résolution de lignes (2014-2015) • Analyse de textures

Polisano et al. - Texture modeling by Gaussian field with prescribed local orientation 14

Tangent field.

Tangent field

For a random field X locally asymptotically self-similar of order H,

X (x0 + ⇢h)� X (x0)

⇢HL���!

⇢!0Yx0

BH↵0,↵(x) =

Z

R2

(e ix·⇠ � 1)1[�↵,↵](arg ⇠ � ↵0(x))

k⇠kH+1dcW (⇠)

[Benassi,1997]Yx0 : tangent field of X at point x0 2 R2

Taylor’s expansion

Deterministic case

Tangent field

Stochastic case

[Falconer,2002]

Page 15: Outils pour le traitement d’imageOutils pour le traitement d’image • Synthèse de texture (2013 […] 2015) • Super-résolution de lignes (2014-2015) • Analyse de textures

Polisano et al. - Texture modeling by Gaussian field with prescribed local orientation 15

Tangent field

The LAFBF BH↵0,↵ admits for tangent field Y

x0 :Theorem.

BH↵0,↵(x) =

Z

R2

(e ix·⇠ � 1)1[�↵,↵](arg ⇠ � ↵0(x))

k⇠kH+1dcW (⇠)

Yx0

Yx0(x) =

Z

R2

(e ix·⇠ � 1)1[�↵,↵](arg ⇠ � ↵0(x0))

k⇠kH+1dcW (⇠)

elementary field with global orientation ↵0(x0)

B

H↵0,↵(x0) ⇡ Y

x0(x = x0)

constant

Page 16: Outils pour le traitement d’imageOutils pour le traitement d’image • Synthèse de texture (2013 […] 2015) • Super-résolution de lignes (2014-2015) • Analyse de textures

Polisano et al. - Texture modeling by Gaussian field with prescribed local orientation 16

Elementary field : simulation by turning bands

↵0 = �⇡

3

↵ = 0.1

~Vx0

x0

~Vx0

x0

↵0 = �⇡

3+ 0.1

Different bands (1D FBM) are

implied in the sum

Yx0

[n](x) = �(H)12

nX

i=1

p�ic↵0,↵(x0, ✓i )B

Hi (x · u(✓i ))

The grayscale repartition completely

changes between two close angles

Page 17: Outils pour le traitement d’imageOutils pour le traitement d’image • Synthèse de texture (2013 […] 2015) • Super-résolution de lignes (2014-2015) • Analyse de textures

Polisano et al. - Texture modeling by Gaussian field with prescribed local orientation 17

LAFBF simulation by tangent fields [T.B]

The grayscale repartition completely

changes between two close angles

B

H↵0,↵(x0) ⇡ Y

x0(x = x0)

↵0 = �67� ↵0 = �55�

We observe bands artifacts

The texture is properly oriented

↵0(x) = �⇡

2+ x

Vector field :

ln

����1

cosx

����+ y0

Orientation curves :

(y’(x)=tan ⍺(x) )

Page 18: Outils pour le traitement d’imageOutils pour le traitement d’image • Synthèse de texture (2013 […] 2015) • Super-résolution de lignes (2014-2015) • Analyse de textures

Polisano et al. - Texture modeling by Gaussian field with prescribed local orientation 18

Elementary field : simulation by Cholesky

↵0 = �⇡

3↵ = 0.1

↵0 = �⇡

3+ 0.1

The grayscale repartition is now

the quite the same for two close angles

Cov (YH,✓1,✓2(x),YH,✓1,✓2(y)) = vH,✓1,✓2(x) + vH,✓1,✓2(y)� vH,✓1,✓2(x � y)

vH,✓1,✓2(x) = 22H�1�(H)CH,✓1,✓2(arg x)kxk2HVariance and covariance of an elementary field.

Cholesky method. ⌃ = LLT Y LZZ ⇠ N (0, 1)

[Drawback : very time and memory consuming]

use the samerandom vector

for the computationof all tangent field Y

Page 19: Outils pour le traitement d’imageOutils pour le traitement d’image • Synthèse de texture (2013 […] 2015) • Super-résolution de lignes (2014-2015) • Analyse de textures

Polisano et al. - Texture modeling by Gaussian field with prescribed local orientation 19

Elementary field simulation

↵0 = �⇡

3↵ = 0.1

↵0 = �⇡

3+ 0.1

The grayscale repartition is now

the quite the same for two close angles

Comparison Turning bands VS. Cholesky method

The grayscale repartition completely

changes between two close angles

Page 20: Outils pour le traitement d’imageOutils pour le traitement d’image • Synthèse de texture (2013 […] 2015) • Super-résolution de lignes (2014-2015) • Analyse de textures

Polisano et al. - Texture modeling by Gaussian field with prescribed local orientation 20

Elementary field simulation

↵0 = �⇡

3 ↵ = 0.1

Comparison Turning bands VS. Cholesky method

The « transversal » variance varies

The « transversal » variance doesn’t

vary enough

Page 21: Outils pour le traitement d’imageOutils pour le traitement d’image • Synthèse de texture (2013 […] 2015) • Super-résolution de lignes (2014-2015) • Analyse de textures

Polisano et al. - Texture modeling by Gaussian field with prescribed local orientation 21

LAFBF simulation by tangent fields [Chol]

B

H↵0,↵(x0) ⇡ Y

x0(x = x0)

↵0 = �67� ↵0 = �55�

The grayscales don’t fit the orientation as

we expected

The grayscale repartition is now

the quite the same for two close angles

Bands artifacts disappear

↵0(x) = �⇡

2+ x

Vector field :

ln

����1

cosx

����+ y0

Orientation curves :

Page 22: Outils pour le traitement d’imageOutils pour le traitement d’image • Synthèse de texture (2013 […] 2015) • Super-résolution de lignes (2014-2015) • Analyse de textures

Polisano et al. - Texture modeling by Gaussian field with prescribed local orientation 22

Why the grayscale curves are like that ?

Parallel lines of elementary fields rotated

C

Orientation curve

↵0(x) = �⇡

2+ x

Page 23: Outils pour le traitement d’imageOutils pour le traitement d’image • Synthèse de texture (2013 […] 2015) • Super-résolution de lignes (2014-2015) • Analyse de textures

Polisano et al. - Texture modeling by Gaussian field with prescribed local orientation 23

Why the grayscale curves are like that ?

C

Page 24: Outils pour le traitement d’imageOutils pour le traitement d’image • Synthèse de texture (2013 […] 2015) • Super-résolution de lignes (2014-2015) • Analyse de textures

Polisano et al. - Texture modeling by Gaussian field with prescribed local orientation 24

Equations of the grayscale curves ?

B

H↵0,↵(x0) ⇡ Y

x0(x = x0)

↵0(x) = �⇡

2+ x

Vector field :

ln

����1

cosx

����+ y0

Orientation curves :

Theoritical grayscale curves :

C

cosx

+ x tan(x)

We observe the green curve look likes better

but does not fit exactly the grayscale

variations either…

Page 25: Outils pour le traitement d’imageOutils pour le traitement d’image • Synthèse de texture (2013 […] 2015) • Super-résolution de lignes (2014-2015) • Analyse de textures

Polisano et al. - Texture modeling by Gaussian field with prescribed local orientation 25

Why does it not fit exactly ?

C=0

C=0.8

The green lines is varying

faster than the gray lines !

Page 26: Outils pour le traitement d’imageOutils pour le traitement d’image • Synthèse de texture (2013 […] 2015) • Super-résolution de lignes (2014-2015) • Analyse de textures

Polisano et al. - Texture modeling by Gaussian field with prescribed local orientation 26

LAFBF simulation by tangent fields [Chol]

B

H↵0,↵(x0) ⇡ Y

x0(x = x0)

↵0(x) = �⇡

2+ y

We observe the accurateorientations but they seem

to appear for high frequencies

Definition of orientation in high frequencies ?

Wavelet decomposition ?

Tangent field formulation is well adapted to the simulation of this oriented model ?

Vector field :

Orientation curves :

arcsin(sin(y0)ex)

Page 27: Outils pour le traitement d’imageOutils pour le traitement d’image • Synthèse de texture (2013 […] 2015) • Super-résolution de lignes (2014-2015) • Analyse de textures

Polisano et al. - Texture modeling by Gaussian field with prescribed local orientation 27

LAFBF simulation by tangent fields [Chol]

B

H↵0,↵(x0) ⇡ Y

x0(x = x0)

↵0(x) = �⇡

2+ y

We observe the accurateorientations but they seem

to appear for high frequencies

Definition of orientation in high frequencies ?

Wavelet decomposition ?

Tangent field formulation is well adapted to the simulation of this oriented model ?

Vector field :

Orientation curves :

arcsin(sin(y0)ex)

Orientation contenue dans les hautes fréquences (le champ tangent est HF) Définir l’orientation locale comme orientation du champ tangent

Page 28: Outils pour le traitement d’imageOutils pour le traitement d’image • Synthèse de texture (2013 […] 2015) • Super-résolution de lignes (2014-2015) • Analyse de textures

Polisano et al. - Texture modeling by Gaussian field with prescribed local orientation 28

Local orientations estimation

Monogenic Wavelet

Histogram of orientations + Von Mises distribution

Olhede S., Detection directionality in random fields using the monogenic signal, preprint 2013.

Richard F., Tests of isotropy for rough textures of trended images, preprint 2014.

Working on empirical covariance ?