上の図のように、2つの円の中心を結ぶベクトルをvとします。接線ができるのは、2つの円について、vからの角度が同じθの場合と、θとθ+Math.PI の場合です。どちらも、vの角度から±θのところが接点になります。また、θとθ+Math.PIの場合は、2つの接線が交差します。

cosθは、上図のような関係になるので、θは、

a1 = Math.acos( (r0-r1)/v.length );
a2 = Math.acos( (r0+r1)/v.length );

で求めることができます。θは、(r0-r1)、(r0+r1)が、v.lengthより大きい場合は成立しませんから、その場合、接線はないことになります。

接点の座標は、vの角度から±θになるので、

/**
* 円0: 中心( x0, y0 ) 半径 r0
* 円1: 中心( x1, y1 ) 半径 r1
*
*/
dr:Number = r0-r1;
if( Math.abs(dr)<=v.length ){
	//接線あり
	
	//vの角度
	var a0:Number = Math.atan2( v.y, v.x );
	
	//接点の角度１
	var a1:Number = Math.acos( dr/v.length );
	
	//円0の接点
	var tp01:Point = new Point( x0 + r0*Math.cos(a0+a1), y0 + y0*Math.sin(a0+a1) );
	var tp02:Point = new Point( x0 + r0*Math.cos(a0-a1), y0 + y0*Math.sin(a0-a1) );
	
	//円1の接点
	var tp11:Point = new Point( x1 + r1*Math.cos(a0+a1), y1 + y1*Math.sin(a0+a1) );
	var tp12:Point = new Point( x1 + r1*Math.cos(a0-a1), y1 + y1*Math.sin(a0-a1) );
	
	dr = r0+r1;
	if( dr<v.length ){
		//接点の角度２
		var a2:Number = Math.acos( dr/v.length );
		
		//円0の接点
		var tp03:Point = new Point( x0 + r0*Math.cos(a0+a2), y0 + y0*Math.sin(a0+a2) );
		var tp04:Point = new Point( x0 + r0*Math.cos(a0-a2), y0 + y0*Math.sin(a0-a2) );
		
		//円1の接点
		var tp13:Point = new Point( x1 + r1*Math.cos(a0+a2+Math.PI), y1 + y1*Math.sin(a0+a2+Math.PI) );
		var tp14:Point = new Point( x1 + r1*Math.cos(a0-a2+Math.PI), y1 + y1*Math.sin(a0-a2+Math.PI) );
		
	}else( dr==v.length ){
		//円が接している
		
		//円0の接点
		var tp05:Point = new Point( x0 + r0*Math.cos(a0), y0 + y0*Math.sin(a0) );
		
		//円1の接点
		var tp15:Point = new Point( x1 + r1*Math.cos(a0+Math.PI), y1 + y1*Math.sin(a0+Math.PI) );
	}
}

のようになります。

接線だけなら、a0、a1、a2を求めて、円1についての接線を求めればよいことになります。

>> source