電子學考試解答

Saturday, July 30, 2011

隨機程序 Random Processes

在介紹隨機程序(或稱隨機過程)之前,先簡單地回顧一下機率理論。若一個實驗的結果(outcome)無法事先得知,即可稱為隨機實驗(Random Experiment),這是在機率理論的一個重要基本概念。在一個隨機實驗中,所有可能的結果形成的集合(set),稱為該實驗的樣本空間,並以$\Omega$表示。樣本空間的任一個子集合(subset),稱為一個事件(event),記為$E$。若實驗的結果為某一事件$E$的一個元素,則稱發生該事件。對樣本空間中的每一個事件$E$,我們定義一個集合函數$P(E)$,且該函數滿足下列三個公設(axioms):

  • Axiom 1: $0\le P(E)\le 1$.
  • Axiom 2: $P(\Omega) = 1$.
  • Axiom 3: 對任意一組事件序列$\{E_i\} = E_1, E_2, E_3,...$ (可以有無限多個),若對任意的$i\ne j$,$E_i\cap E_j = \emptyset$,亦即$\{E_i\}$為互斥(mutually exclusive),則\[ P\left(\bigcup_{i=1}^\infty E_i\right) = \sum_{i=1}^\infty P(E_i).\]

若這樣的函數存在,則我們稱$P(E)$為事件$E$發生的機率。令$\mathcal{F}$表示所有可能事件所形成的集合($\mathcal{F}$嚴格說來,必須是一個$\sigma$-field,或者稱為$\sigma$-algebra,不過在這邊暫時可以不管這些,那為何要提這個咧?因為這樣看起來好像比較專業。),則$(\Omega, \mathcal{F}, P)$這三個物件構成一個機率空間(Probability Space)。這種機率的定義方式,稱為公設式的定義(axiomatic approach),是數學上最常用的定義方式。公設有人喜歡有人不喜歡,像是在台北市買房子,有的還規定公設至少30%,真是他媽的坑爹啊!數學家則是非常喜歡公設,機率的公設是由俄羅斯的數學家Kolmogorov提出來的,他告訴我們,滿足這三個公設就是機率,也就是說這個世界上只有機率可以同時滿足這三個性質,不需要計算事件發生的頻率,也不需要假設你的實驗公不公平。這種公設式的定義,在數學上隨處可見,有時候不得不說:這些數學家真是他媽的有病啊!不然怎麼在一堆雜亂無章的數學式中,找出這兩、三個規則,並且將它定為不可違背的公設。下面列出機率函數的幾個簡單的性質,利用三個基本公設即可證明。

  1. If $E\subset F$, then $P(E)\le P(F)$.
  2. $P(E^c) = 1 - P(E)$, where $E^c$ is the complement of $E$.
  3. $P(\bigcup_{i=1}^n E_i) = \sum^n_{i=1} P(E_i)$ when the $E_i$ are mutually exclusive.
  4. $P(\bigcup_{i=1}^n E_i) \le \sum^n_{i=1} P(E_i)$.
接下來介紹隨機變數(Random Variables)。考慮一個樣本空間$\Omega$,令$\omega$表示一次隨機實驗的結果,隨機變數$X: \Omega\rightarrow\mathbb{R}$是一個函數,指定一個唯一的數值$\xi$給該次實驗結果,亦即$X(\omega) = \xi$(參考圖1)。若$X$的值域為$\mathbb{R}$則稱為連續隨機變數,若$X$的值域為$\mathbb{Z}$或$\mathbb{N}$,則稱為離散隨機變數。事實上,隨機變數還需要滿足另一個條件,如下:\[ P\{X\in A\}=P(X^{-1}(A)). \] 其中$A$為$\mathbb{R}$的一個子集合,$X^{-1}(A)$表示$A$的逆映像(inverse image),簡單來講就是對任意的$A\subset \mathbb{R}$,其inverse image必須是一個事件,且發生$A$的機率與發生$X^{-1}(A)$的機率相同。同樣地,這個性質可以先暫時不管他,我只是想告訴大家,我很專業!(個屁)

圖1:隨機變數

隨機變數的概念,可以說是近代機率理論的重要基石,有些讀者和同學(包括我也是)一開始可能會覺得隨機變數的概念不容易接受,而且似乎有點多餘,不過是要將每個事件,指定一個數值,為何要特別定義一個函數咧?初學時,其實可以只要先記得隨機變數是一個函數這樣的概念就好了,它的很多好處需要慢慢體會,我自己的認知,隨機變數的概念可以簡化許多機率的問題,任何無法預知(random or stochastic)的東西,經過隨機變數映射之後(也就是隨機試驗的一個"實現", realization),都變成是"確定性"(deterministic)的東西,一但是確定的東西,我們就可以對他進行微分、積分以及其他複雜的數學運算。這個概念在討論隨機程序時,更能顯示出他的好處。


令$\Omega$為樣本空間(Sample Space),$T$為實數的一個子集合,代表一個時間區段(time interval)。則隨機程序(random process or stochastic process)可以定義為從product space $T\times\Omega$(亦即兩個變數的函數,其中第一個變數為$T$中的元素,第二個變數為$\Omega$中的元素)映射至$\mathbb{R}^n$的一個函數,使得對任意的$t_j\in T$,$\mathbf{X}(t_j,\cdot)$是一個隨機變數($n=1$時是純量隨機變數,$n>1$為多變量隨機變數)。反之,若固定第二個變數,則對任意的$\omega_i\in\Omega$,$\mathbf{X}(\cdot,\omega_i):=\mathbf{X}(\cdot)$是一個時間函數,稱為樣本函數(sample function)。對固定的 $t_j\in T$,$\omega_i\in\Omega$,則得到$\mathbf{X} (t_j,\omega_i)$是一個確定的向量。


圖2: 隨機程序



Saturday, July 16, 2011

Gauss-Markov Process

考慮一個一階的線性常微分方程式:
\[\dot{x}(t)+ax(t)=0,\;\; x(0)\;\; \mbox{is given.}\]
其解為
\[x(t)=e^{-at}x(0). \]
假設採樣時間(sampling time)為$\Delta T$,且令$t_k:=k\Delta T$,則不難證明,由上述方程式可得
\[ x(t_{k+1}) = e^{-a\Delta T}x(t_k). \]
上式可視為一個離散時間的線性系統,其時間常數(time-constant)為$1/a$。若令此系統的輸入$w(t_k)$,為一個zero-mean Gaussian random sequence (or process),其變異量為$\sigma^2$,此時上式可改寫為:
\[x(t_{k+1}) = e^{-a\Delta T}x(t_k)+w(t_k). \]
則Gauss-Markov定理告訴我們,$\{x(t_k)\}_{k=0}^{k=\infty}$必為一個Gauss-Markov process,且$x(t_k)$的autocorrelation function為
\[R(\tau)=\sigma^2e^{-a\vert\tau\vert}. \]


可以利用Gauss-Markov Process來描述GPS衛星誤差模型。上圖中Error Parameter就是指$x(t)$,Standard Deviation = $\sigma$,Time = 時間常數。舉例而言,第二列的意思就是說將Ephemeris以$\sigma=3, a=1/1800$的Gauss-Markov Process來表示,其autocorrelation function $R(\tau) = 9e^{-\vert\tau\vert / 1800}$。

Thursday, July 07, 2011

Gram-Schmidt正交化與傅立葉轉換之間的關係

正交化是內積空間上的核心觀念,假設有一組獨立的向量集合,則可利用Gram-Schmidt正交化過程,從這組獨立集,造出一組正交集(orthogonal set)以及單範正交集(orthonormal set)。由此方法可推出矩陣的兩種類型QR分解,Gram-Schmidt正交化概念,與傅立葉轉換兩者之間有密不可分的關係。

定理1. (Fourier Coefficient)
設$S=\{\mathbf{v}_1,\mathbf{v}_2,..., \mathbf{v}_k\}$為內積空間$\mathcal{V}$之非零向量正交集,且$\mathbf{v}\in\mbox{span}(S)$。若$\mathbf{v}=\sum^k_{i=1}\alpha_i\mathbf{v}_i$,則
\[\alpha_j = \frac{<\mathbf{v},\mathbf{v}_j>}{\Vert\mathbf{v}_j\Vert^2},\;\;\;\;\mbox{for all }j=1,2,..., k.\]
$\alpha_i$稱為傅立葉係數(Fourier Coefficient)。

定理2.(Gram-Schmidt Orthogonalization Process)
已知$S=\{\mathbf{v}_1,\mathbf{v}_2,..., \mathbf{v}_k\}$為內積空間$\mathcal{V}$之獨立集,則令
\[\begin{array}{rcl}
\mathbf{u}_1 & = & \mathbf{v}_1, \\
\mathbf{u}_2 & = & \mathbf{v}_2 - \frac{<\mathbf{v}_2,\mathbf{u}_1>}{<\mathbf{u}_1,\mathbf{u}_1>}\mathbf{u}_1, \\
\vdots & & \vdots \\
\mathbf{u}_k & = & \mathbf{v}_k - \sum^{k-1}_{i=1} \frac{<\mathbf{v}_k,\mathbf{u}_i>}{<\mathbf{u}_i,\mathbf{u}_i>}\mathbf{u}_i,
\end{array}\]
則$S'=\{\mathbf{u}_1,\mathbf{u}_2,..., \mathbf{u}_k\}$形成非零向量正交集。

假設$S=\{\mathbf{v}_1,\mathbf{v}_2,..., \mathbf{v}_n\}$為內積空間$\mathcal{V}$的一組基底,則可以利用定理2,造出一組正交基底$S'=\{\mathbf{u}_1,\mathbf{u}_2,..., \mathbf{u}_n\}$。依據基底的定義,對於$\mathcal{V}$上的任意向量$\mathbf{v}$,皆可以表示成$\mathbf{v}=\sum^n_{i=1}\alpha_i\mathbf{u}_i$,且
\[\alpha_j = \frac{<\mathbf{v},\mathbf{u}_j>}{\Vert\mathbf{u}_j\Vert^2},\;\;\;\;\mbox{for all }j=1,2,..., n.\]
$\alpha_j$稱為傅立葉係數,實際上就是向量$\mathbf{v}$在基底$\mathbf{u}_j$上的分量大小。現在,我們將這個概念,推廣到訊號空間上。在繼續之前,需要先說明一下向量空間維度的概念。$\mathbb{R}^n$空間的維度為$n$,所代表的意思就是說我們只需要$n$個線性獨立的向量即可完整描述$\mathbb{R}^n$空間,也就是說$\mathbb{R}^n$空間中的任一個向量,都可以用這$n$個向量的線性組合來表示。那麼,訊號空間的維度是多少呢?從線性代數的理論可以證明,訊號空間的維度是無窮大,因此我們需要無限多個基底才能完整描述訊號空間中的任意"向量"(意即信號)。若基底的個數為有限,則僅能以近似的方式表示訊號空間中的向量。

假設$\phi_1(t), \phi_2(t),..., \phi_N(t)$為訊號空間中的一組正交向量,

Monday, July 04, 2011

Impulse Signal Generation - MATLAB


Impulse signal generation—MATLAB

When defining the impulse or $\delta (t)$ signal, the shape of the signal used to do so is not important. Whether we use the rectangular pulse we considered in this chapter or another pulse, or even a signal that is not a pulse, in the limit we obtain the same impulse signal. Consider the following cases:
(a) The triangular pulse,
\[\Lambda_{\Delta}(t) = \frac{1}{\Delta}\left(1-\left\vert \frac{t}{\Delta}\right\vert\right)\left(u(t+\Delta) - u(t-\Delta)\right). \]
Carefully plot it, compute its area, and find its limit as $\Delta\rightarrow 0$. What do you obtain in the limit? Explain.
(b) Consider the signal
\[S_\Delta (t) = \frac{\sin (\pi t/\Delta)}{\pi t}. \]
Use the properties of the sinc signal $S(t) = \sin (\pi t)/(\pi t)$ to express $S_\Delta (t)$ in terms of $S(t)$. Then find its area, and the limit as $\Delta\rightarrow 0$. Use symbolic MATLAB to show that for decreasing values of $\Delta$ the $S_\Delta (t)$ becomes like the impulse signal.

Solution: MATLAB Script
(a)
% Pr. 1.7
clear all; clf
% part (a)
delta=0.1;
t=[-delta:0.05:delta];N=length(t);
lambda=zeros(1,N);
figure(5)
for k=1:6,
lambda=(1-abs(t/delta))/delta;
delta=delta/2;
plot(t,lambda);xlabel(’t’)
axis([-0.1 0.1 0 330]);grid
hold on
pause(0.5)
end
grid
hold off

(b)
% part (b)
syms S t
delta=1;
figure(6)
for k=1:4,
delta=delta/k;
S=(1/delta)*sinc(t/delta);
ezplot(S,[-2 2])
axis([-2 2 -8 30])
hold on
I=subs(int(S,t,-100*delta, 100*delta)) % area under sinc
pause(0.5)
end
grid;xlabel(’t’)
hold off

向量分析 (III)


1.3 向量積分

1.3.1 線、面以及體積分

In electrodynamics we encounter several different kinds of integrals, among which the most important are line (or path) integrals, surface integrals (or flux), and volume integrals.
(a) Line Integrals. A line integral is an expression of the form
\[\int^\mathbf{b}_{\mathbf{a}\mathcal{P}}\mathbf{v}\cdot \mathrm{d}\mathbf{l}, \]
where $\mathbf{v}$ is a vector function, $d\mathbf{l}$ is the infinitesimal displacement vector, and the integral is to be carried out along a prescribed path $\mathcal{P}$ from point $\mathbf{a}$ to point $\mathbf{b}$. If the path in question forms a closed loop (that is, if $\mathbf{b}=\mathbf{a}$), we shall put a circle on the integral sign:
\[\oint\mathbf{v}\cdot d\mathbf{l}. \]
To a physicist, the most familiar example of a line integral is the work done by a force $\mathbf{F}$:
\[\int\mathbf{F}\cdot d\mathbf{l}. \]
Ordinarily, the value of a line integral depends critically on the particular path taken from $\mathbf{a}$ to $\mathbf{b}$, but there is an important special class of vector functions for which the line integral is independent of the path, and is
determined entirely by the end points. A force that has this property is called conservative.


i=1Nai

Sunday, July 03, 2011

訊號與系統 (II)


1.2 幾種有用的信號操作方式
1.2.1 時間位移
考慮一信號$g(t)$,以及該信號延遲$T$秒的版本,以$\phi (t)$表示。則
\[\phi (t+T) = g(t)\;\;\;\;\;\mbox{或者} \;\;\;\;\; \phi(t) = g(t-T). \]
因此(見圖1.2),若要將一個信號在時間上平移$T$,我們將$t$以$t+T$取代,亦即$g(t-T)$表示將信號$g(t)$平移$T$秒。若$T$是正的,代表係往右平移(延後),若$T$是負的,表示信號係往左平移(超前)。

圖1.2 信號的時間平移


1.2.2 時間刻度變換

Saturday, July 02, 2011

第3章 GPS座標與時間系統 (I)


GPS衛星繞著地球進行夾角約55度的軌道運動,其位置會隨著時間而改變。從幾何的觀點來看,軌道座標系統最適合用來分析衛星的運動狀態。另一方面,GPS定位或是量測大多數是在地表進行,因此使用地心座標系統較為方便,而且因為地表接近圓形,最適合用來描述地表上任一點位置的方式是使用極座標系統,而非直角座標系統。GPS定位需要量測衛星所在位置 (軌道座標系統、隨時間改變) 以及接收機所在位置 (極座標系統) 之間的距離,以計算出使用者所在位置,在此過程中,需要處理不同座標系統以及不同的參考時間資料,因此如何定義與選擇一個適當的座標軸以及時間系統,是設計導航系統的重要課題。

座標與時間系統與天體力學 (celestial mechanics) 之間的密切關係,可以回溯至數百年前,在十七與十八世紀時,許多偉大的科學家,例如:伽利略 (Galileo)、克卜勒 (Kepler)、牛頓 (Newton)、高斯 (Gauss)、惠更斯 (Huygens) 以及尤拉 (Euler) 等人,各有許多偉大的貢獻,其中尤其是牛頓在天體軌道動力學的貢獻更是眾所公認的。古典力學是描述具有質量的物體受力時,其運動方式的變化以及相互間的規則。在牛頓 (Isaac Newton, 1642-1727) 之前,描述物體運動的基本觀念與數學方法皆已大致建立,其中的代表性人物是克卜勒 (Johannes Kepler, 1571-1630) (太陽與行星運動的規律性) 與伽利略(Galileo Galilei, 1564-1642),但最後集大成的是牛頓。大家或許都熟知運動三大定律與萬有引力定律的內容,但不一定了解它們的重要性以及對日後物理學發展的深遠影響。牛頓在物理學上的貢獻可以歸納成幾個方面:他把描述運動現象的運動學發展成動力學 (即描述運動現象與作用力的關係),將各種運動現象的根本原因加以整合,使其適用於天體及地面上的各種運動;發明並利用微積分處理物理學的運動分析,建立動力學理論;把數學公式化的理論方法與架構運用到物理理論上,使物理理論展現出清晰、明確與嚴謹的定義,和強而有力的推演能力,並以數學關係式表達物理量間的定性與定量關係;建立動力學理論的標準模式;也是歷史上第一位提出有自然力 (萬有引力) 存在的人。所以牛頓被稱為科學史上最重要的人物之一。

牛頓不但將人類在力學上的紛雜觀念,整合為一簡潔而完整的理論,可適用於大部分的運動現象,既是古典力學的基礎,也是古典物理學的基礎,它同時也影響了古典熱力學和古典電磁學的發展。他所發展出來的理論模式是物理學的典範,牛頓本人大概也沒料到他的貢獻與影響會如此遠大。隨後發現的基本自然力,包括電磁作用力 (發生在帶電粒子與電流之間)、強作用力 (發生在原子核內及基本粒子之間)、弱作用力 (發生在核內粒子的電子放射衰變過程中),一些相關理論也多少受其影響。我們若要了解某系統的物理現象,根據動力學的理論,其處理程序是:了解系統的組成分子與結構;掌握組成分子的質量與相互作用力的型態;正確使用運動變化法則與運動方程式;依據統計分配法則與統計資料計算結果。由運動方程式或統計分配法則與計算,我們可以獲知系統的物理現象,包括穩定狀態時的結構與性質、受外力作用時的變化情形。這種動力學模式,事實上隱藏在牛頓力學的理論體系內。構成物理學的四大力學,即是描述不同物理系統的基本動力學理論。而各種尺寸大小、作用力型態與結構不同的物理體系,也在這種基本動力學模式下,建立起本身的物理細部理論架構。 (部分文章摘自:自然科學之母—物理科學,作者:唐富欽 成功大學物理系)

第3.1節 座標系統簡介
數學上,座標系統的觀念有助於幾何問題的描述,以及對抽象概念的理解,例如一n維的向量空間,在賦予其適當之$n$個互相垂直之座標軸之後,即可視為與$\mathbb{R}^n$空間同構 (isomorphic),$\mathbb{R}^n$是一種歐氏空間 (Euclidean Space)。數學上常用的座標系統是二維以及三維的直角 (rectangular) 座標系統,分別用來描述$\mathbb{R}^2$以及$\mathbb{R}^3$空間,是由數學家笛卡耳 (Rene Descartes, 1596-1650) 首先提出,這兩種座標系統通常也稱為卡氏座標系統 (Cartesian Coordinate Systems)。


圖3.1 平面卡氏直角座標:平面上的任一點是以序對$(a, b)$來表示


圖3.1為標準的平面卡氏直角座標,在平面上的兩條直線分別稱為$x$軸(水平線)與$y$軸(鉛直線),其交點$O$稱為原點。以原點為準,$x$軸的右方為正,左方為負,$y$軸的上方為正,下方為負。平面上的任意一點$P$,向$x$軸與$y$軸各作垂線,假設$P$在$x$軸與$y$軸之垂足分別為$a$及$b$,則$P$點的平面座標就以序對 (ordered pair) $(a, b)$ 表示。所謂序對係指$a$, $b$是不可交換的,也就是說 $(a, b)\ne (b, a)$,而且$(a_1, b_1)= (a_2, b_2)$之充分且必要條件為$a_1=a_2$且$b_1=b_2$。如同前面所說的,$\mathbb{R}^2$是一個歐氏空間。在歐氏空間上,兩點可以決定一直線,而且兩點之間的距離可以利用畢氏定理 (Pythagoras Theorem) 求得 (如圖 3.2),假設兩個點$A$, $B$的座標分別為$(a_1, b_1)$以及$(a_2, b_2)$,則
\[\overline{AB} = \sqrt{(a_1-a_2)^2 + (b_1 - b_2)^2}. \hspace{3cm}\mbox{(3.1-1}) \]
在日常生活中,較常使用的則是三維的直角座標,在$\mathbb{R}^3$空間中的任一點是由序對 $(a, b, c)$ 表示,同樣地$a$, $b$, $c$是不可交換的。$\mathbb{R}^2$也是歐氏空間,因此兩點亦可決定一直線,而兩點的距離可以利用畢氏定理決定:


圖3.2 平面直角座標。任一兩點可以決定一直線,其距離可以利用畢氏定理求得



圖3.3 三度空間卡氏直角座標系統:空間中任一點是由序對 $(a, b, c)$ 表示


\[\overline{AB} = \sqrt{(a_1-a_2)^2 + (b_1 - b_2)^2 + (c_1 - c_2)^2}. \hspace{3cm}\mbox{(3.1-2}) \]

另一種常用的座標軸是極座標系統,在此系統中,空間中的任意一點是用半徑以及其與直角座標軸之間的夾角來表示。如圖3.4,在平面上取一固定點為原點,向右的水平射線$\overline{OA}$,稱此射線為極軸 (polar axis),$O$為極 (pole),$P$為平面上任意一點,若線段$\overline{OP}$之長度為$r (r\ge 0)$,而射線$\overline{OA}$與$\overline{OP}$之夾角為$\theta$,則以$(r,\theta)$來表示$P$點之座標,此稱為$P$點之極座標。極座標的一個特點是座標的表示方式並不是唯一的,事實上,$P$點之極座標亦可以$(r, 2\pi+\theta)$表示,其中$2\pi+\theta$為$\theta$之同界角。三度空間的極座標則需要r以及兩個角度來表示,如圖3.5所示。


圖3.4 平面座標系 – 極座標



圖3.5 三度空間極座標系統


直角座標系統與極座標系統之間可透過簡單的三角函數關係,進行轉換。假設平面上一點P之直角座標與極座標分別為$(x, y)$及$(r,\theta)$,則其間關係如下 (參考圖3.4):

\[\left\{ \begin{array}{l}
x = r\cos \theta \\
y = r\sin \theta
\end{array} \right.,\;\;\;\left\{ \begin{array}{l}
\theta = {\tan ^{ - 1}}\frac{y}{x}\\
r = \sqrt {{x^2} + {y^2}}
\end{array} \right.,\;\;\;\left\{ \begin{array}{l}
{\rm{sin}}\theta {\rm{ = }}\frac{y}{{\sqrt {{x^2} + {y^2}} }}\\
\cos \theta = \frac{x}{{\sqrt {{x^2} + {y^2}} }}
\end{array} \right..\,\,\,\,\,\, (3.1-3)\]

同理,假設三度空間上一點P之直角座標與極座標分別為$(x, y, z)$及$(r,\theta,\phi)$,則其間關係可以表示如下(參考圖3.5):

\[\left\{ \begin{array}{l}
x = r\cos \theta \cos \phi \\
y = r\sin \theta \cos \phi \\
z = r\sin \phi
\end{array} \right.,\,\,\,\,\left\{ \begin{array}{l}
\theta = {\tan ^{ - 1}}\frac{y}{x}\\
r = \sqrt {{x^2} + {y^2} + {z^2}} \\
\phi = {\tan ^{ - 1}}\left( {\frac{z}{{\sqrt {{x^2} + {y^2}} }}} \right)
\end{array} \right.\,\,\,\,\, (3.1-4)\]

導航是什麼?GPS又是什麼碗稞,可以吃嗎?

導航 (Navigation) 簡單的說就是要知道自己所在的位置,另一個類似的名詞叫做監視 (Surveillance),則是要知道別人所在的位置。監視所使用的工具大多為雷達 (Radar),不在本文章所討論的範圍。

導航系統的歷史已經十分悠久,例如黃帝時代的指南車也可視為導航系統的一種;不過,事實上指南車只能指出方向,無法得知現在所在的位置。大概在十五、十六世紀左右,導航主要還是指船舶在海上航行的方向與位置導引,導航的方式係以天文導航 (celestial navigation) 為主,亦即觀測天上的恆星,以判斷載具前進的方向。這可以從導航這個字的字根 (navi) 看出來,在拉丁文中,"navis"是船舶的意思。既然是觀測天上的星星,這個時期的導航系統就是一些利於觀星的裝置,例如:Astrolabe, Sextant。

一直到20世紀初,無線電傳輸的技術成熟,導航系統才有突破性的進展;同時,由於飛機的發明,導航的方式也有重大的改變。這時期的導航設備,大多是所謂的無線電導航系統 (Radio Navigation System)。這裡我們可以先來談一談怎麼利用無線電系統來定出自己的位置,其實原理說穿了一點也不困難,簡單的說就是利用距離以及方向的資訊。無線電導航系統通常需要有參考站,設置在已知的位置上,亦即參考站的三度空間座標是已知的,該參考站持續發射一個經過特殊方式調變過的無線電信號。而在載具上 (例如飛機或者船舶) 則需要裝設無線電信號的接收裝置,這個導航設備在接收到參考站發射的無線電信號之後,由於該信號的特殊調變方式,使用者可據以計算載具與參考站之間的距離以及相對的方位。由於參考站的座標為已知,因此可以推算出載具的三度空間座標。這種定位方式稱為距離-方位定位法 (rho-theta positioning;另外幾種常見的方式稱為rho-rho positioning、theta-theta positioning以及hyperbolic positioning,將在稍後介紹)。無線電導航系統的種類非常多,例如VOR/DME、Omega、Loran-C、ILS、MLS等。我想這些名稱可能有些人一輩子也沒聽過,或許只有民航局官員、飛機駕駛員還有船長等專門的人員才會接觸到這些東西。這很正常,因為這些導航系統是給飛機以及船舶使用的,一般普羅大眾根本不需要用到這些東西。大概在10年以前,應該還沒有人會預見導航系統竟然會成為隨處可見的日常民生用品,這都要感謝GPS的發明!

在GPS (Global Positioning System,全球定位系統) 發明之前,導航一直都不是一門大眾科學,甚至在GPS發明之後的十年內,多數人還是認為:開車幹嘛用導航系統,手機裝GPS做甚麼,又不能吃。傳統的無線電導航設備價格都非常昂貴,而且體積龐大,當然不可能變成日常的消費電子產品。早期的GPS接收機體積也很大,同樣不適合於隨身攜帶。隨著半導體製程的技術越來越進步,GPS接收機的體積也越做越小,現在的技術已經可以做成單一顆IC,可以輕易的裝在手機裡面,而且價格也很便宜,現在來看,GPS接收機已經是一種消費性電子產品了。不過,我認為GPS只所以現在變得這麼普遍,有一個重要的原因應該是因為GPS所提供的服務是免費的。前面所提到的那些無線電導航設備 (VOR/DME, ILS等),航空公司的飛機在巡航時,接收到這些參考站的信號進行定位,需要付錢給各國的民航官方單位 (因為這些參考站通常是由各個國家自行建置,由官方的機構,通常就是民航局來管理,提供導航服務,這些服務是要收費的),收費多半非常的高昂 (航空公司應該也不在意收費多高吧,反正都會轉嫁給消費者)。GPS也可以看成是一種參考站,只不過這個參考站是架設在太空中的衛星,由衛星發射無線電信號,提供定位服務。GPS是美國國防部的財產,美國同意免費提供GPS信號給全世界使用,我認為這也是GPS迅速成為最普遍的導航設備的一個重要原因。不過,相對於傳統的無線電導航系統,GPS還是佔有許多優勢,才有辦法迅速的取代舊式的導航系統。


圖1. 利用多邊定位的方法,計算Wing Gundam的位置


GPS導航的方式係採用rho-rho positioning,也就是距離修正的定位方式 (如圖1)。若參考站A與B之位置為已知,Wing Gundam與A之距離為rho1,與B之距離為rho2,則 Wing Gundam應位於分別以A, B為圓心,rho1, rho2為半徑的兩個圓的交點上。

GPS衛星訊號提供兩種基本的觀測量 (observables):電碼相位觀測量 (code phase observable) 以及載波相位觀測量 (carrier phase observable)。電碼追蹤 (code tracking) 結果可得到電碼相位觀測量 (code phase observable),可用來估測衛星與接收機之間的 (瞬時) 相對距離,因為電碼相位觀測量在傳遞過程中會發生延遲,因此所得到的並非真實距離 (true range or geometric range) 而是所謂的虛擬距離 (pseudorange)。另一種觀測量則是載波相位觀測量 (carrier phase observable),是利用接收到之衛星訊號的載波相位,以及接收機產生之參考訊號的載波相位之間的相位偏移 (carrier phase offset) 來計算衛星與接收機之間的相對距離,也可以用來計算距離的變化率,亦即都卜勒頻率 (Doppler frequency)。利用載波相位觀測量可以得到較為精確的定位結果,但是因為其訊號為週期波的關係,會有周波未定值 (cycle ambiguity) 的問題。)

Friday, July 01, 2011

訊號與系統 (I)


1.1 信號模型 (Signal Models)
常見的訊號分類方式有下列幾種:
1. 連續時間 (continuous-time) 與離散時間 (discrete-time) 信號
2. 類比 (analog) 與數位 (digital) 信號
3. 週期 (periodic) 與非週期 (aperiodic) 信號
4. 能量 (energy) 與功率 (power) 信號
5. 決定性 (deterministic )與隨機 (stochastic) 信號

簡單說明如下:
1.1.1 連續時間與離散時間信號
如同字面上的意思,若一個信號的值可以在連續的時間點上指定,稱為連續時間信號,例如:
\[x(t)=e^t,\,\,\, t\in\mathbb{R}.\]
若信號的值僅存在於離散的時間點上則稱為離散時間信號,例如:
\[u[n]=\sin n, \,\,\, n=0, 1, 2, 3,...\]
1.1.2 類比與數位信號
一般同學容易將類比信號與連續時間信號搞混,這兩種信號分類並不相同;同樣地,數位信號與離散時間信號也是不同的信號分類。若一個信號的振幅可以是任意的連續數值 (當然一般而言是在某一個範圍之內)則稱為類比信號,亦即該信號的可能數值有無限多個;反之,若該信號的振幅僅可能是有限個數值中的某一個值,則稱為數位信號。若是從函數的觀點來看,對一個信號而言,其振幅可以視為是時間的函數,亦即時間是自變數,振幅是應變數。因此,自變數是連續的為連續時間信號,自變數是離散的則為離散時間信號;應變數為連續的稱為類比信號,應變數為離散的稱為數位信號 (參考圖1,取自B.P. Lathi, "Modern Digital and Analog Communication Systems)。

圖1.1 四種不同的信號:(a)類比、連續時間信號 (b)數位、連續時間信號
(c)類比、離散時間信號 (d)數位、離散時間信號


1.1.3 週期與非週期信號
對一個信號$g(t)$而言,若存在正值$T_0$,使得$g(t)=g(t+T_0)$,對所有的$t$均成立,則稱$g(t)$為週期信號 (periodic signal),滿足上述條件的最小正數$T_0$,稱為$g(t)$之週期。若$g(t)$不為週期信號,則稱為非週期 (aperiodic) 信號。

1.1.4 能量與功率信號
對一個信號$g(t)$而言,其能量 (Energy) 定義為:
\[E=\int^{\infty}_{-\infty}\vert g(t)\vert^2 dt\]
功率 (power) 係定義為
\[P=\lim_{T\rightarrow\infty}\frac{1}{T}\int^{T/2}_{-T/2}\vert g(t)\vert^2 dt\]
若$g(t)$的能量為有限,則稱為能量信號;反之,若$g(t)$的功率不為零,且為有限數值,則稱為功率信號。觀察上列兩個方程式可以看出來,功率係為能量的時間平均。由於時間平均的區間為無限大,因此若$g(t)$為能量信號,其功率必為零;反之,若$g(t)$的功率為有限,則其能量必為無限大。換句話說,一個信號不可能同時是能量信號又是功率信號;但有可能既不是能量信號也不是功率信號,例如斜坡信號 (ramp signal)。

1.1.5 決定性與隨機信號
若一個信號可以利用物理或者數學方式完整描述,或者可以利用時間的函數來表示,在任何時間點其函數值是可確定的,稱為決定性信號。反之,若在任一時刻,其數值僅能用機率的方式來描述,例如期望值、標準差等,則稱為隨機信號。在通訊原理中,一般說來系統中的雜訊都是以隨機信號的方式來表示。

Example: Find $P$ and $E$ for the signal $x(t)=e^{-2t}u(t)$, where $u(t)$ is the unit step function.
Solution:
\[ E=\int^{\infty}_{-\infty}\vert e^{-2t}u(t)\vert^2 dt = \int^{\infty}_0 e^{-4t}dt = \frac{1}{4} \]
\[ P=\lim_{T\rightarrow\infty}\frac{1}{2T}\int^T_{-T}\vert e^{-2t}u(t)\vert^2 dt = \lim_{T\rightarrow\infty}\frac{1}{2T}\int^T_0 e^{-4t} dt = \lim_{T\rightarrow\infty}\frac{1-e^{-4T}}{8T} = 0\]
Therefore, $x(t)$ is an energy signal.

Stationary Random Process

在工程上,特別是通訊工程,我們經常碰到隨機程序;而為了處理上的方便,通常會假設隨機程序具有stationary,亦即穩態的特性。何謂穩態,簡單的說就是我們所作的實驗不會因為作實驗的時間不同,而得到不同的結論。例如擲骰子,早上擲和晚上擲,擲出任何一面的機率都是六分之一。當然這樣的假設不一定永遠成立,例如GPS定位,一般而言晚上作實驗定位誤差會比早上作實驗來的小。

以數學的方式來描述穩態特性,假設$X(t+1), X(t+2), ..., X(t+n)$為隨機程序$X$在$n$個時間點上的採樣,其聯合機率密度函數為$f(X(t+1), X(t+2),..., X(t+n))$,則$X(t)$為stationary的條件為:

\[f(X(t+1), X(t+2),..., X(t+n)) \\ \,\,\,\,\,\,\,\, = f(X(t+1+k), X(t+2+k),..., X(t+n+k)) \\ \,\,\,\, \mbox{對所有的$k$均成立 (Equation 1)} \]
(PS: 這樣的寫法並不十分正確,此處僅希望說明stationary的概念,我們就先不管數學嚴不嚴僅吧!)

也就是說,隨機程序的聯合機率密度函數不會隨著時間改變。在線性系統理論中,這有點類似非時變 (time-invariant) 的概念,不過對於一個隨機的東西,稱它是非時變好像有點奇怪,因此比較好的名稱可以說它是shift-invariant。不過,stationary random process跟線性非時變 (Linear Time-Invariant, LTI) 系統有密切的關係:一個高斯白雜訊通過一個線性非時變系統,其輸出必為一個stationary random process。

Equation 1這樣的條件,看起來似乎沒什麼問題,但實際上確不怎麼好用。機率密度函數可以完整描述一個隨機變數,但是實際上並不容易求得隨機變數的機率密度函數,更重要的是在工程應用上,大部份的情況下我們並不需要知道隨機變數或者隨機程序完整的機率密度函數,通常我們僅需要知道它的一階以及二階統計特性 (first- and second-order moment),亦即所謂的期望值與變異量 (或者叫做協方差)。這就好像電子學裡面的小訊號模型,當系統的交流信號值很小時,我們僅需考慮系統的一階微分項,此時系統的輸入與輸出的關係僅是一個單純的線性映射,這個線性映射就是Two-Port Network,也就是小信號模型。再回到隨機程序的問題,shift-invariant的性質,在一階以及二階統計特性所體現出來的事實就是,期望值必須為常數,以及自相關函數 (autocorrelation) 必須僅與時間差有關 (shift-invariant在三階以上的moment所體現出來的特性則較少在文獻上討論)。這就衍伸出wide-sense stationary (WSS) 的概念,我們稱滿足 (1) 期望值為常數 (2) 自相關函數僅與時間差有關 這兩個特性的隨機程序為 WSS隨機程序。有時為了區分,我們會稱前面介紹的stationary性質為strict-sense stationary (SSS)。很明顯的SSS隨機程序必為WSS隨機程序,反之則未必成立。

這邊需要澄清一下,WSS僅需滿足上面(1)(2)的性質,因此其三階以上統計特性shift-invariant的性質未必滿足。同時,(1)(2)兩個性質是shift-invariant所造成的結果,(1)和(2)之間未必存在因果關係,換句話說,期望值為常數未必自相關函數就會僅與時間差有關,反之,自相關函數僅與時間差有關,未必期望值就會是常數。

接下來我想談一下Wiener Filter以及Kalman Filter的一些觀念。(待續)