制作 debian 源

Heroin 发表于 2013-03-30

首先下载好debian的全部iso, 我下的是最新的6.0.7, 一共8张

安装环境是虚拟机

给虚拟机再添加7个光驱, 把debian的所有的iso都挂载上去

新建一个目录/var/sources/

用于存储debian光盘里面全部的软件包

挂载iso后, 把iso下所有的pool文件全部拷贝到 /var/sources/

cp -R /mnt/cd0/pool /var/sources/
cp -R /mnt/cd1/pool /var/sources/
cp -R /mnt/cd2/pool /var/sources/
cp -R /mnt/cd3/pool /var/sources/
cp -R /mnt/cd4/pool /var/sources/
cp -R /mnt/cd5/pool /var/sources/
cp -R /mnt/cd6/pool /var/sources/
cp -R /mnt/cd7/pool /var/sources/

安装dpkg-scanpackages

apt-get install dpkg-dev

这个工具就是debian带的源操作的工具

/var/sources/下新建2个目录, 用于存放Pakcages

mkdir -p /var/sources/dists/squeeze/main/binary-amd64
mkdir -p /var/sources/dists/squeeze/contrib/binary-amd64

由于我是用的64位squeeze, 具体目录名字对应版本修改下

最后通过dpkg-scanpackages扫描pool下的全部软件包, 该操作会用很长时间, 具体我没记

dpkg-scanpackages pool/main | gzip > dists/squeeze/main/binary-amd64/Packages.gz
dpkg-scanpackages pool/contrib | gzip > dists/squeeze/contrib/binary-amd64/Packages.gz

Packages.gz备份一份 然后执行

gunzip Packages.gz

最后再还原成Packages.gz

生成Release文件

apt-ftparchive release . \
-o APT::FTPArchive::Release::Origin="Debian" \
-o APT::FTPArchive::Release::Label="Debian" \
-o APT::FTPArchive::Release::Suite="stable" \
-o APT::FTPArchive::Release::Version="6.0.7" \
-o APT::FTPArchive::Release::Codename="squeeze" \
-o APT::FTPArchive::Release::Date="Sat, 23 Feb 2013 10:54:11 UTC" \
-o APT::FTPArchive::Release::Architectures="amd64" \
-o APT::FTPArchive::Release::Components="main contrib" \
-o APT::FTPArchive::Release::Description="Description: Debian 6.0.7 Released 23 February 2013" \
> Release

生成Release.gpg

gpg -abs -o Release.gpg Release

等待扫描完毕后, 将/var/sources/发布到web目录上

我是拿nginx直接指向过去的

配置/etc/apt/sources.list

deb http://127.0.0.1/ squeeze main contrib

然后执行apt-get update, 接着安装想要的软件. 速度相当快

通过 httptunnel 穿透防火墙

Heroin 发表于 2013-01-28

由于公司网络封了很多出口协议, 对外只能采用http协议

平时日常在公司要登录下vps管理管理都很难, 直接就断开

通过httptunnel的方式可以将目标协议以http的方式发布出去

本地通过这个地址转换可以实现到连接

###下载httptunnel

官方地址: http://www.nocrew.org/software/httptunnel.html

###安装httptunnel

直接使用默认的安装方式

./configure
make
make install

这样会安装到/usr/local/bin/

主要是用到htchts2个文件

hts将本地任意端口以http的协议映射到任意端口上
htc将服务器httptunnel的端口转换到本地端口上

###hts使用方式

在服务器上直接执行

hts --forward-port ip:22 8080

这将把ssh的22端口以http协议的方式映射到服务器的8080端口上

###htc使用方式

在客户端上直接执行(如果是windows系统的话可以拿到源码通过cygwin进行编译)

htc -F 8888 ip:8080

这将把目标ip的httptunnel端口在本地上的8888进行绑定

然后通过ssh客户端连接

ssh -p 8888 username@127.0.0.1

###结束

通过httptunnel的方式可以穿透防火墙, 不仅仅限于ssh端口, 同样适用于其他的协议

maven 上传 插件

Heroin 发表于 2013-01-07

由于最近开发一个项目是运行在linux上的, 需要频繁的上传编译后的文件到服务器上

于是自己写了一个基于maven的上传插件

项目地址

该插件是先编译项目然后将编译的结果上传至指定服务器, 指定目录

目前是只支持单ip, 并且密码是明文方式配置

未来考虑可以上传多个文件, 或者通过密钥的方式验证

目前这个项目还没传到maven中央服务器上,

要用的可以先把源码下下来安装到自己本地仓库, 或者提交到内部私服

配置方式

<plugin>
    <groupId>so.heroin.maven.plugins</groupId>
    <artifactId>deploy-maven-plugin</artifactId>
    <version>1.0.0.0</version>
    <configuration>
        <hostname>192.168.1.12</hostname>
        <username>root</username>
        <password>root</password>
        <port>22</port>
        <remotePath>/root/code</remotePath>
    </configuration>
</plugin>

配置描述

配置项说明
hostname服务器ip
username服务器帐号
password服务器密码
port服务器ssh端口, 默认22
remotePath上传服务器地址, 默认/tmp

其中portremotePath是有默认值的, 可以不填写

通过 maven 启动 tomcat, jetty

Heroin 发表于 2012-12-08

配置maven

直接在pom里面添加一个plugin节点就行

<build>
    <plugins>
        <plugin>
            ...
        </plugin>
    </plugins>
</build>

需要变更版本只需要修改version即可

Tomcat 6

<plugin>
    <groupId>org.apache.tomcat.maven</groupId>
    <artifactId>tomcat6-maven-plugin</artifactId>
    <version>2.0</version>
    <configuration>
        <path>/</path>
        <port>8080</port>
        <uriEncoding>UTF-8</uriEncoding>
    </configuration>
</plugin>

Tomcat 7

<plugin>
    <groupId>org.apache.tomcat.maven</groupId>
    <artifactId>tomcat7-maven-plugin</artifactId>
    <version>2.0</version>
    <configuration>
        <path>/</path>
        <port>8080</port>
        <uriEncoding>UTF-8</uriEncoding>
    </configuration>
</plugin>

jetty 老的配置

<plugin>
    <groupId>org.mortbay.jetty</groupId>
    <artifactId>maven-jetty-plugin</artifactId>
    <version>6.1.26</version>
    <configuration>
        <connectors>
            <connector implementation="org.mortbay.jetty.nio.SelectChannelConnector">
                <port>8080</port>
            </connector>
        </connectors>
        <contextPath>/</contextPath>
        <scanIntervalSeconds>10</scanIntervalSeconds>
    </configuration>
</plugin>

jetty 新的配置

<plugin>
    <groupId>org.mortbay.jetty</groupId>
    <artifactId>jetty-maven-plugin</artifactId>
    <version>8.1.8.v20121106</version>
    <configuration>
        <connectors>
            <connector implementation="org.eclipse.jetty.server.nio.SelectChannelConnector">
                <port>8080</port>
            </connector>
        </connectors>
        <systemProperties>
            <systemProperty>
                <name>org.eclipse.jetty.util.URI.charset</name>
                <value>UTF-8</value>
            </systemProperty>
        </systemProperties>
    </configuration>
</plugin>

简洁的Bash编程技巧

Heroin 发表于 2012-11-28

##1. 检查命令执行是否成功

第一种写法, 比较常见

echo abcdee | grep -q abcd
 
if [ $? -eq 0 ]; then
    echo "Found"
else
    echo "Not found"
fi

简洁的写法

if echo abcdee | grep -q abc; then
    echo "Found"
else
    echo "Not found"
fi

当然你也可以不要if/else, 不过这样可读性比较差

[Sun Nov 04 05:58 AM] [kodango@devops] ~/workspace 
$ echo abcdee | grep -q abc && echo "Found" || echo "Not found"
Found

##2. 将标准输出与标准错误输出重定向到/dev/null

第一种写法, 比较常见

grep "abc" test.txt 1>/dev/null 2>&1

常见的错误写法

grep "abc" test.txt 2>&1 1>/dev/null

简洁的写法

grep "abc" test.txt &> /dev/null

##3. awk的使用

举一个实际的例子, 获取Xen DomU的id

常见的写法

sudo xm li | grep vm_name | awk '{print $2}'

简洁的写法

sudo xm li | awk '/vm_name/{print $2}'

##4. 将一个文本的所有行用逗号连接起来

假设文件内容如下所示

[Sat Nov 03 10:04 PM] [kodango@devops] ~/workspace 
$ cat /tmp/test.txt 
1
2
3

使用Sed命令

[Sat Nov 03 10:14 PM] [kodango@devops] ~/workspace 
$ sed ':a;$!N;s/\n/,/;ta' /tmp/test.txt 
1,2,3

简洁的写法

[Sat Nov 03 10:04 PM] [kodango@devops] ~/workspace 
$ paste -sd, /tmp/test.txt 
1,2,3

##5. 过滤重复行

假设文件内容如下所示

[Sat Nov 03 10:16 PM] [kodango@devops] ~/workspace 
$ sort /tmp/test.txt 
1
1
2
3

常用的方法

[Sat Nov 03 10:16 PM] [kodango@devops] ~/workspace 
$ sort /tmp/test.txt | uniq
1
2
3

简单的写法

[Sat Nov 03 10:16 PM] [kodango@devops] ~/workspace 
$ sort /tmp/test.txt -u
1
2
3

##6. grep查找单词

假设一个文本的每一行是一个ip地址, 例如

[Sat Nov 03 10:20 PM] [kodango@devops] ~/workspace 
$ cat /tmp/ip.list 
10.0.0.1
10.0.0.12
10.0.0.123

使用grep查找是否包括10.0.0.1这个ip地址. 常见的写法

[Sat Nov 03 10:22 PM] [kodango@devops] ~/workspace 
$ grep '10.0.0.1\>' /tmp/ip.list 
10.0.0.1

简单的方法(其实这方法不见得简单, 只是为了说明-w这个参数还是很有用的)

[Sat Nov 03 10:23 PM] [kodango@devops] ~/workspace 
$ grep -w '10.0.0.1' /tmp/ip.list 
10.0.0.1

顺便grep的-n/-H/-v/-f/-c这几参数都很有用

##7. 临时设置环境变量

常见的写法

[Sat Nov 03 10:26 PM] [kodango@devops] ~/workspace 
$ export LC_ALL=zh_CN.UTF-8 
 
[六 11月 03 10:26 下午] [kodango@devops] ~/workspace 
$ date
2012年 11月 03日 星期六 22:26:55 CST

简洁的写法

[六 11月 03 10:26 下午] [kodango@devops] ~/workspace 
$ unset LC_ALL
 
[Sat Nov 03 10:27 PM] [kodango@devops] ~/workspace 
$ LC_ALL=zh_CN.UTF-8 date 
2012年 11月 03日 星期六 22:27:43 CST

在命令之前加上环境变更的设置, 只是临时改变当前执行命令的环境.

##8. $1,$2…等位置参数的使用

假设只想使用$2,$3..这几个参数, 常见的做法是:

shift
echo "$@"

为什么不这样写呢?

echo "${@:2}"

##9. 退而求其次的写法

相信大家会有这种需求, 当一个参数值没有提供时, 可以使用默认值. 常见的写法是

arg=$1
 
if [ -z "$arg" ]; then
   arg=0
fi

简洁的写法是这样的

arg=${1:-0}

##10. bash特殊参数–的用法

假设要用grep查找字符串中是否包含-i, 我们会这样尝试

[Sat Nov 03 10:45 PM] [kodango@devops] ~/workspace 
$ echo 'abc-i' | grep "-i"
Usage: grep [OPTION]... PATTERN [FILE]...
Try 'grep --help' for more information.
 
[Sat Nov 03 10:45 PM] [kodango@devops] ~/workspace 
$ echo 'abc-i' | grep "\-i"
abc-i

简洁的方法是

[Sat Nov 03 10:45 PM] [kodango@devops] ~/workspace 
$ echo 'abc-i' | grep -- -i
abc-i

bash中–后面的参数不会被当作选项解析.

##11. 函数的返回值默认是最后一行语句的返回值

# Check whether an item is a function
# $1: the function name
# Return: 0(yes) or 1(no)
function is_function()
{
    local func_name=$1
    test "`type -t $1 2>/dev/null`" = "function"
}

不要画蛇添足再在后面加一行return $?了.

##12. 将printf格式化的结果赋值给变量

例如将数字转换成其十六进制形式, 常见的写法是

[Sat Nov 03 10:55 PM] [kodango@devops] ~/workspace 
$ var=$(printf '%%%02x' 111)

简单的写法是

[Sat Nov 03 10:54 PM] [kodango@devops] ~/workspace 
$ printf -v var '%%%02x' 111

看看printf的help

[Sat Nov 03 10:53 PM] [kodango@devops] ~/workspace 
$ help printf | grep -A 1 -B 1 -- -v
printf: printf [-v var] format [arguments]
    Formats and prints ARGUMENTS under control of the FORMAT.
--
    Options:
      -v var    assign the output to shell variable VAR rather than
            display it on the standard output

##13. 打印文件行

打印文件的第一行

head -1 test.txt

打印文件的第2行

sed -n '2p' test.txt

打印文件的第2到5行

sed -n '2,5p' test.txt

打印文件的第2行始(包括第2行在内) 5行的内容

sed -n '2,+4p' test.txt

打印倒数第二行

$ tail -2 test.txt | head -1
$ tac test.txt | sed -n '2p'

##14. 善用let或者(())命令做算术运算

如何对一个数字做++运算, 可能你会这样用

a=1
a=`expr a + 1`

为何不用你熟悉的

a=1
let a++
let a+=2

##15. 获取软连接指定的真实文件名

如果你不知道, 你可能会这样获取

[Sat Nov 03 11:12 PM] [kodango@devops] ~/workspace 
$ ls -l /usr/bin/python | awk -F'->' '{print $2}' | tr -d ' '
/usr/bin/python2

如果你知道有一个叫readlink的命令, 那么

[Sat Nov 03 11:13 PM] [kodango@devops] ~/workspace 
$ readlink /usr/bin/python
/usr/bin/python2

##16. 获取一个字符的ASCII码

[Sat Nov 03 11:14 PM] [kodango@devops] ~/workspace 
$ printf '%02x' "'+"
2b
[Sat Nov 03 11:30 PM] [kodango@devops] ~/workspace 
$ echo -n '+' | od -tx1 -An | tr -d ' '
2b

##17. 清空一个文件

常见的用法

echo "" > test.txt

简单的写法

> test.txt

##18. 不要忘记有here document

下面一段代码

grep -v 1 /tmp/test.txt | while read line; do
    let a++
    echo --$line--
done
 
echo a:$a

执行后有什么问题吗?

[Sun Nov 04 05:35 AM] [kodango@devops] ~/workspace 
$ sh test.sh 
--2--
--3--
a:

发现a这个变量没有被赋值, 为什么呢? 因为管道后面的代码是在在一个子shell中执行的, 所做的任何更改都不会对当前shell有影响, 自然a这个变量就不会有赋值了.

换一种思路, 可以这样做

grep -v 1 /tmp/test.txt > /tmp/test.tmp
 
while read line; do
    let a++
    echo --$line--
done < /tmp/test.tmp
 
echo a:$a
rm -f /tmp/test.tmp

不过多了一个临时文件, 最后还要删除. 这里其实可以用到here document

while read line2; do
    let b++
    echo ??$line2??
done << EOF
`grep -v 1 /tmp/test.txt`
EOF
 
echo b: $b

here document往往用于需要输出一大段文本的地方, 例如脚本的help函数.

##19. 删除字符串中的第一个或者最后一个字符

假设字符串为

[Sun Nov 04 10:21 AM] [kodango@devops] ~/workspace 
$ str="aremoveb"

可能你第一个想法是通过sed或者其它命令来完成这个功能, 但是其实有很简单的方法

[Sun Nov 04 10:24 AM] [kodango@devops] ~/workspace 
$ echo "${str#?}"
removeb
 
[Sun Nov 04 10:24 AM] [kodango@devops] ~/workspace 
$ echo "${str%?}"
aremove

类似地, 你也可以删除2个、3个、4个…

有没有一次性删除第一个和最后一个字符的方法呢? 答案当然是肯定的

[Sun Nov 04 10:26 AM] [kodango@devops] ~/workspace 
$ echo "${str:1:-1}"
remove

关于这些变量替换的内容在bash的man手册中都有说明.

##20. 使用逗号join数组元素

假设数组元素没有空格, 可以用这种方法

[Sun Nov 04 10:14 AM] [kodango@devops] ~/workspace 
$ a=(1 2 3) 
$ b="${a[*]}"
 
[Sun Nov 04 10:15 AM] [kodango@devops] ~/workspace 
$ echo ${b// /,}
1,2,3

注意当该数组的长度非常长时, 使用这种替换的时间开销很高, 性能很差, 推荐用sed.

假设数组元素包含有空格, 可以借用printf命令来达到

[Sun Nov 04 10:15 AM] [kodango@devops] ~/workspace 
$ a=(1 "2 3" 4)

[Sun Nov 04 10:15 AM] [kodango@devops] ~/workspace 
$ printf ",%s" "${a[@]}" | cut -c2-   
1,2 3,4

##21. Shell中的多进程

在命令行下, 我们会在命令行后面加上&符号来让该命令在后台执行, 在shell脚本中, 使用”(cmd)”可以让fork一个子shell来执行该命令. 利用这两点, 可以实现shell的多线程

job_num=10
 
function do_work()
{
    echo "Do work.."
}
 
for ((i=0; i < job_num ;i++)); do
    echo "Fork job $i"
    (do_work) &
done
 
wait   # wait for all job done
echo "All job have been done!"

注意最后的wait命令, 作用是等待所有子进程结束.

附几则小技巧

1) sudo iptables -L -n | vim -
2) grep -v xxx | vim -
3) echo $'\''
4) set -- 1 2 3; echo "$@"
5) 搜索stackoverflow/superuser等站点
6) VIM编辑远程文件 vim scp://xxx//etc/vimrc
7) 远程执行脚本 ssh xxx bash < xxx.sh