github.com/linapex/ethereum-dpos-chinese@v0.0.0-20190316121959-b78b3a4a1ece/p2p/discover/database.go (about)

     1  
     2  //<developer>
     3  //    <name>linapex 曹一峰</name>
     4  //    <email>linapex@163.com</email>
     5  //    <wx>superexc</wx>
     6  //    <qqgroup>128148617</qqgroup>
     7  //    <url>https://jsq.ink</url>
     8  //    <role>pku engineer</role>
     9  //    <date>2019-03-16 12:09:43</date>
    10  //</624342655739891712>
    11  
    12  
    13  //包含节点数据库,存储以前看到的节点和收集的所有
    14  //用于QoS的元数据。
    15  
    16  package discover
    17  
    18  import (
    19  	"bytes"
    20  	"crypto/rand"
    21  	"encoding/binary"
    22  	"os"
    23  	"sync"
    24  	"time"
    25  
    26  	"github.com/ethereum/go-ethereum/crypto"
    27  	"github.com/ethereum/go-ethereum/log"
    28  	"github.com/ethereum/go-ethereum/rlp"
    29  	"github.com/syndtr/goleveldb/leveldb"
    30  	"github.com/syndtr/goleveldb/leveldb/errors"
    31  	"github.com/syndtr/goleveldb/leveldb/iterator"
    32  	"github.com/syndtr/goleveldb/leveldb/opt"
    33  	"github.com/syndtr/goleveldb/leveldb/storage"
    34  	"github.com/syndtr/goleveldb/leveldb/util"
    35  )
    36  
    37  var (
    38  nodeDBNilNodeID      = NodeID{}       //要用作nil元素的特殊节点ID。
    39  nodeDBNodeExpiration = 24 * time.Hour //删除未查看节点的时间。
    40  nodeDBCleanupCycle   = time.Hour      //运行过期任务的时间段。
    41  	nodeDBVersion        = 5
    42  )
    43  
    44  //nodedb存储我们知道的所有节点。
    45  type nodeDB struct {
    46  lvl    *leveldb.DB   //与数据库本身的接口
    47  self   NodeID        //拥有节点ID以防止将其添加到数据库中
    48  runner sync.Once     //确保我们最多可以启动一个到期日
    49  quit   chan struct{} //向过期线程发出停止信号的通道
    50  }
    51  
    52  //节点数据库的架构布局
    53  var (
    54  nodeDBVersionKey = []byte("version") //更改时要刷新的数据库版本
    55  nodeDBItemPrefix = []byte("n:")      //为节点条目加前缀的标识符
    56  
    57  	nodeDBDiscoverRoot      = ":discover"
    58  	nodeDBDiscoverPing      = nodeDBDiscoverRoot + ":lastping"
    59  	nodeDBDiscoverPong      = nodeDBDiscoverRoot + ":lastpong"
    60  	nodeDBDiscoverFindFails = nodeDBDiscoverRoot + ":findfail"
    61  )
    62  
    63  //newnodedb创建一个新的节点数据库,用于存储和检索有关的信息
    64  //网络中的已知对等点。如果没有给定路径,则内存中的
    65  //数据库已构建。
    66  func newNodeDB(path string, version int, self NodeID) (*nodeDB, error) {
    67  	if path == "" {
    68  		return newMemoryNodeDB(self)
    69  	}
    70  	return newPersistentNodeDB(path, version, self)
    71  }
    72  
    73  //newmemorynodedb创建一个新的内存节点数据库,而不使用持久的
    74  //后端。
    75  func newMemoryNodeDB(self NodeID) (*nodeDB, error) {
    76  	db, err := leveldb.Open(storage.NewMemStorage(), nil)
    77  	if err != nil {
    78  		return nil, err
    79  	}
    80  	return &nodeDB{
    81  		lvl:  db,
    82  		self: self,
    83  		quit: make(chan struct{}),
    84  	}, nil
    85  }
    86  
    87  //newpersistentnodedb创建/打开一个支持leveldb的持久节点数据库,
    88  //同时在版本不匹配的情况下刷新其内容。
    89  func newPersistentNodeDB(path string, version int, self NodeID) (*nodeDB, error) {
    90  	opts := &opt.Options{OpenFilesCacheCapacity: 5}
    91  	db, err := leveldb.OpenFile(path, opts)
    92  	if _, iscorrupted := err.(*errors.ErrCorrupted); iscorrupted {
    93  		db, err = leveldb.RecoverFile(path, nil)
    94  	}
    95  	if err != nil {
    96  		return nil, err
    97  	}
    98  //缓存中包含的节点对应于某个协议版本。
    99  //如果版本不匹配,则刷新所有节点。
   100  	currentVer := make([]byte, binary.MaxVarintLen64)
   101  	currentVer = currentVer[:binary.PutVarint(currentVer, int64(version))]
   102  
   103  	blob, err := db.Get(nodeDBVersionKey, nil)
   104  	switch err {
   105  	case leveldb.ErrNotFound:
   106  //找不到版本(即空缓存),请将其插入
   107  		if err := db.Put(nodeDBVersionKey, currentVer, nil); err != nil {
   108  			db.Close()
   109  			return nil, err
   110  		}
   111  
   112  	case nil:
   113  //存在版本,如果不同则刷新
   114  		if !bytes.Equal(blob, currentVer) {
   115  			db.Close()
   116  			if err = os.RemoveAll(path); err != nil {
   117  				return nil, err
   118  			}
   119  			return newPersistentNodeDB(path, version, self)
   120  		}
   121  	}
   122  	return &nodeDB{
   123  		lvl:  db,
   124  		self: self,
   125  		quit: make(chan struct{}),
   126  	}, nil
   127  }
   128  
   129  //makekey从节点ID及其特定的
   130  //感兴趣的领域。
   131  func makeKey(id NodeID, field string) []byte {
   132  	if bytes.Equal(id[:], nodeDBNilNodeID[:]) {
   133  		return []byte(field)
   134  	}
   135  	return append(nodeDBItemPrefix, append(id[:], field...)...)
   136  }
   137  
   138  //SplitKey尝试将数据库键拆分为节点ID和字段部分。
   139  func splitKey(key []byte) (id NodeID, field string) {
   140  //如果键不是节点的,则直接返回
   141  	if !bytes.HasPrefix(key, nodeDBItemPrefix) {
   142  		return NodeID{}, string(key)
   143  	}
   144  //否则拆分ID和字段
   145  	item := key[len(nodeDBItemPrefix):]
   146  	copy(id[:], item[:len(id)])
   147  	field = string(item[len(id):])
   148  
   149  	return id, field
   150  }
   151  
   152  //fetchin64检索与特定
   153  //数据库密钥。
   154  func (db *nodeDB) fetchInt64(key []byte) int64 {
   155  	blob, err := db.lvl.Get(key, nil)
   156  	if err != nil {
   157  		return 0
   158  	}
   159  	val, read := binary.Varint(blob)
   160  	if read <= 0 {
   161  		return 0
   162  	}
   163  	return val
   164  }
   165  
   166  //storeInt64将特定数据库条目作为
   167  //UNIX时间戳。
   168  func (db *nodeDB) storeInt64(key []byte, n int64) error {
   169  	blob := make([]byte, binary.MaxVarintLen64)
   170  	blob = blob[:binary.PutVarint(blob, n)]
   171  
   172  	return db.lvl.Put(key, blob, nil)
   173  }
   174  
   175  //节点从数据库中检索具有给定ID的节点。
   176  func (db *nodeDB) node(id NodeID) *Node {
   177  	blob, err := db.lvl.Get(makeKey(id, nodeDBDiscoverRoot), nil)
   178  	if err != nil {
   179  		return nil
   180  	}
   181  	node := new(Node)
   182  	if err := rlp.DecodeBytes(blob, node); err != nil {
   183  		log.Error("Failed to decode node RLP", "err", err)
   184  		return nil
   185  	}
   186  	node.sha = crypto.Keccak256Hash(node.ID[:])
   187  	return node
   188  }
   189  
   190  //updateNode将节点插入到对等数据库中(可能会覆盖)。
   191  func (db *nodeDB) updateNode(node *Node) error {
   192  	blob, err := rlp.EncodeToBytes(node)
   193  	if err != nil {
   194  		return err
   195  	}
   196  	return db.lvl.Put(makeKey(node.ID, nodeDBDiscoverRoot), blob, nil)
   197  }
   198  
   199  //删除节点删除与节点关联的所有信息/键。
   200  func (db *nodeDB) deleteNode(id NodeID) error {
   201  	deleter := db.lvl.NewIterator(util.BytesPrefix(makeKey(id, "")), nil)
   202  	for deleter.Next() {
   203  		if err := db.lvl.Delete(deleter.Key(), nil); err != nil {
   204  			return err
   205  		}
   206  	}
   207  	return nil
   208  }
   209  
   210  //EnsureExpirer是一个小助手方法,可确保数据过期
   211  //机制正在运行。如果到期goroutine已经在运行,则
   212  //方法只返回。
   213  //
   214  //目标是在网络成功后才开始数据疏散
   215  //引导自身(以防止转储可能有用的种子节点)。自从
   216  //准确跟踪第一个成功的
   217  //收敛性,在适当的时候“确保”正确的状态比较简单
   218  //条件发生(即成功结合),并丢弃进一步的事件。
   219  func (db *nodeDB) ensureExpirer() {
   220  	db.runner.Do(func() { go db.expirer() })
   221  }
   222  
   223  //Expirer应该在Go例程中启动,并负责循环广告
   224  //无穷大并从数据库中删除过时数据。
   225  func (db *nodeDB) expirer() {
   226  	tick := time.NewTicker(nodeDBCleanupCycle)
   227  	defer tick.Stop()
   228  	for {
   229  		select {
   230  		case <-tick.C:
   231  			if err := db.expireNodes(); err != nil {
   232  				log.Error("Failed to expire nodedb items", "err", err)
   233  			}
   234  		case <-db.quit:
   235  			return
   236  		}
   237  	}
   238  }
   239  
   240  //expirenodes迭代数据库并删除所有没有
   241  //在一段指定的时间内被看见(即收到乒乓球)。
   242  func (db *nodeDB) expireNodes() error {
   243  	threshold := time.Now().Add(-nodeDBNodeExpiration)
   244  
   245  //查找发现的早于允许的节点
   246  	it := db.lvl.NewIterator(nil, nil)
   247  	defer it.Release()
   248  
   249  	for it.Next() {
   250  //如果不是发现节点,则跳过该项
   251  		id, field := splitKey(it.Key())
   252  		if field != nodeDBDiscoverRoot {
   253  			continue
   254  		}
   255  //如果尚未过期(而不是自己),则跳过节点
   256  		if !bytes.Equal(id[:], db.self[:]) {
   257  			if seen := db.lastPongReceived(id); seen.After(threshold) {
   258  				continue
   259  			}
   260  		}
   261  //否则删除所有相关信息
   262  		db.deleteNode(id)
   263  	}
   264  	return nil
   265  }
   266  
   267  //LastpingReceived检索远程节点发送的最后一个ping数据包的时间。
   268  func (db *nodeDB) lastPingReceived(id NodeID) time.Time {
   269  	return time.Unix(db.fetchInt64(makeKey(id, nodeDBDiscoverPing)), 0)
   270  }
   271  
   272  //updateLastping更新上次远程节点对我们执行ping操作的时间。
   273  func (db *nodeDB) updateLastPingReceived(id NodeID, instance time.Time) error {
   274  	return db.storeInt64(makeKey(id, nodeDBDiscoverPing), instance.Unix())
   275  }
   276  
   277  //lastpongreceived从远程节点检索上次成功的pong的时间。
   278  func (db *nodeDB) lastPongReceived(id NodeID) time.Time {
   279  	return time.Unix(db.fetchInt64(makeKey(id, nodeDBDiscoverPong)), 0)
   280  }
   281  
   282  //HasBond报告给定节点是否被视为已绑定。
   283  func (db *nodeDB) hasBond(id NodeID) bool {
   284  	return time.Since(db.lastPongReceived(id)) < nodeDBNodeExpiration
   285  }
   286  
   287  //updateLastPongreeived更新节点的最后一次挂起时间。
   288  func (db *nodeDB) updateLastPongReceived(id NodeID, instance time.Time) error {
   289  	return db.storeInt64(makeKey(id, nodeDBDiscoverPong), instance.Unix())
   290  }
   291  
   292  //findfails检索自绑定以来findnode失败的次数。
   293  func (db *nodeDB) findFails(id NodeID) int {
   294  	return int(db.fetchInt64(makeKey(id, nodeDBDiscoverFindFails)))
   295  }
   296  
   297  //updatefindfails更新自绑定以来findnode失败的次数。
   298  func (db *nodeDB) updateFindFails(id NodeID, fails int) error {
   299  	return db.storeInt64(makeKey(id, nodeDBDiscoverFindFails), int64(fails))
   300  }
   301  
   302  //queryseeds检索用作潜在种子节点的随机节点
   303  //用于引导。
   304  func (db *nodeDB) querySeeds(n int, maxAge time.Duration) []*Node {
   305  	var (
   306  		now   = time.Now()
   307  		nodes = make([]*Node, 0, n)
   308  		it    = db.lvl.NewIterator(nil, nil)
   309  		id    NodeID
   310  	)
   311  	defer it.Release()
   312  
   313  seek:
   314  	for seeks := 0; len(nodes) < n && seeks < n*5; seeks++ {
   315  //寻找一个随机条目。第一个字节的增量为
   316  //每次随机数以增加可能性
   317  //攻击非常小的数据库中的所有现有节点。
   318  		ctr := id[0]
   319  		rand.Read(id[:])
   320  		id[0] = ctr + id[0]%16
   321  		it.Seek(makeKey(id, nodeDBDiscoverRoot))
   322  
   323  		n := nextNode(it)
   324  		if n == nil {
   325  			id[0] = 0
   326  continue seek //迭代器已用完
   327  		}
   328  		if n.ID == db.self {
   329  			continue seek
   330  		}
   331  		if now.Sub(db.lastPongReceived(n.ID)) > maxAge {
   332  			continue seek
   333  		}
   334  		for i := range nodes {
   335  			if nodes[i].ID == n.ID {
   336  continue seek //复制品
   337  			}
   338  		}
   339  		nodes = append(nodes, n)
   340  	}
   341  	return nodes
   342  }
   343  
   344  //从迭代器读取下一个节点记录,跳过其他节点记录
   345  //数据库条目。
   346  func nextNode(it iterator.Iterator) *Node {
   347  	for end := false; !end; end = !it.Next() {
   348  		id, field := splitKey(it.Key())
   349  		if field != nodeDBDiscoverRoot {
   350  			continue
   351  		}
   352  		var n Node
   353  		if err := rlp.DecodeBytes(it.Value(), &n); err != nil {
   354  			log.Warn("Failed to decode node RLP", "id", id, "err", err)
   355  			continue
   356  		}
   357  		return &n
   358  	}
   359  	return nil
   360  }
   361  
   362  //关闭刷新并关闭数据库文件。
   363  func (db *nodeDB) close() {
   364  	close(db.quit)
   365  	db.lvl.Close()
   366  }
   367