github.com/linapex/ethereum-dpos-chinese@v0.0.0-20190316121959-b78b3a4a1ece/p2p/discv5/database.go (about)

     1  
     2  //<developer>
     3  //    <name>linapex 曹一峰</name>
     4  //    <email>linapex@163.com</email>
     5  //    <wx>superexc</wx>
     6  //    <qqgroup>128148617</qqgroup>
     7  //    <url>https://jsq.ink</url>
     8  //    <role>pku engineer</role>
     9  //    <date>2019-03-16 12:09:43</date>
    10  //</624342656557780992>
    11  
    12  
    13  //包含节点数据库,存储以前看到的节点和收集的所有
    14  //用于QoS的元数据。
    15  
    16  package discv5
    17  
    18  import (
    19  	"bytes"
    20  	"crypto/rand"
    21  	"encoding/binary"
    22  	"fmt"
    23  	"os"
    24  	"sync"
    25  	"time"
    26  
    27  	"github.com/ethereum/go-ethereum/crypto"
    28  	"github.com/ethereum/go-ethereum/log"
    29  	"github.com/ethereum/go-ethereum/rlp"
    30  	"github.com/syndtr/goleveldb/leveldb"
    31  	"github.com/syndtr/goleveldb/leveldb/errors"
    32  	"github.com/syndtr/goleveldb/leveldb/iterator"
    33  	"github.com/syndtr/goleveldb/leveldb/opt"
    34  	"github.com/syndtr/goleveldb/leveldb/storage"
    35  	"github.com/syndtr/goleveldb/leveldb/util"
    36  )
    37  
    38  var (
    39  nodeDBNilNodeID      = NodeID{}       //要用作nil元素的特殊节点ID。
    40  nodeDBNodeExpiration = 24 * time.Hour //删除未查看节点的时间。
    41  nodeDBCleanupCycle   = time.Hour      //运行过期任务的时间段。
    42  )
    43  
    44  //nodedb存储我们知道的所有节点。
    45  type nodeDB struct {
    46  lvl    *leveldb.DB   //与数据库本身的接口
    47  self   NodeID        //拥有节点ID以防止将其添加到数据库中
    48  runner sync.Once     //确保我们最多可以启动一个到期日
    49  quit   chan struct{} //向过期线程发出停止信号的通道
    50  }
    51  
    52  //节点数据库的架构布局
    53  var (
    54  nodeDBVersionKey = []byte("version") //更改时要刷新的数据库版本
    55  nodeDBItemPrefix = []byte("n:")      //为节点条目加前缀的标识符
    56  
    57  	nodeDBDiscoverRoot          = ":discover"
    58  	nodeDBDiscoverPing          = nodeDBDiscoverRoot + ":lastping"
    59  	nodeDBDiscoverPong          = nodeDBDiscoverRoot + ":lastpong"
    60  	nodeDBDiscoverFindFails     = nodeDBDiscoverRoot + ":findfail"
    61  	nodeDBDiscoverLocalEndpoint = nodeDBDiscoverRoot + ":localendpoint"
    62  	nodeDBTopicRegTickets       = ":tickets"
    63  )
    64  
    65  //newnodedb创建一个新的节点数据库,用于存储和检索有关的信息
    66  //网络中的已知对等点。如果没有给定路径,则内存中的
    67  //数据库已构建。
    68  func newNodeDB(path string, version int, self NodeID) (*nodeDB, error) {
    69  	if path == "" {
    70  		return newMemoryNodeDB(self)
    71  	}
    72  	return newPersistentNodeDB(path, version, self)
    73  }
    74  
    75  //newmemorynodedb创建一个新的内存节点数据库,而不使用持久的
    76  //后端。
    77  func newMemoryNodeDB(self NodeID) (*nodeDB, error) {
    78  	db, err := leveldb.Open(storage.NewMemStorage(), nil)
    79  	if err != nil {
    80  		return nil, err
    81  	}
    82  	return &nodeDB{
    83  		lvl:  db,
    84  		self: self,
    85  		quit: make(chan struct{}),
    86  	}, nil
    87  }
    88  
    89  //newpersistentnodedb创建/打开一个支持leveldb的持久节点数据库,
    90  //同时在版本不匹配的情况下刷新其内容。
    91  func newPersistentNodeDB(path string, version int, self NodeID) (*nodeDB, error) {
    92  	opts := &opt.Options{OpenFilesCacheCapacity: 5}
    93  	db, err := leveldb.OpenFile(path, opts)
    94  	if _, iscorrupted := err.(*errors.ErrCorrupted); iscorrupted {
    95  		db, err = leveldb.RecoverFile(path, nil)
    96  	}
    97  	if err != nil {
    98  		return nil, err
    99  	}
   100  //缓存中包含的节点对应于某个协议版本。
   101  //如果版本不匹配,则刷新所有节点。
   102  	currentVer := make([]byte, binary.MaxVarintLen64)
   103  	currentVer = currentVer[:binary.PutVarint(currentVer, int64(version))]
   104  
   105  	blob, err := db.Get(nodeDBVersionKey, nil)
   106  	switch err {
   107  	case leveldb.ErrNotFound:
   108  //找不到版本(即空缓存),请将其插入
   109  		if err := db.Put(nodeDBVersionKey, currentVer, nil); err != nil {
   110  			db.Close()
   111  			return nil, err
   112  		}
   113  
   114  	case nil:
   115  //存在版本,如果不同则刷新
   116  		if !bytes.Equal(blob, currentVer) {
   117  			db.Close()
   118  			if err = os.RemoveAll(path); err != nil {
   119  				return nil, err
   120  			}
   121  			return newPersistentNodeDB(path, version, self)
   122  		}
   123  	}
   124  	return &nodeDB{
   125  		lvl:  db,
   126  		self: self,
   127  		quit: make(chan struct{}),
   128  	}, nil
   129  }
   130  
   131  //makekey从节点ID及其特定的
   132  //感兴趣的领域。
   133  func makeKey(id NodeID, field string) []byte {
   134  	if bytes.Equal(id[:], nodeDBNilNodeID[:]) {
   135  		return []byte(field)
   136  	}
   137  	return append(nodeDBItemPrefix, append(id[:], field...)...)
   138  }
   139  
   140  //SplitKey尝试将数据库键拆分为节点ID和字段部分。
   141  func splitKey(key []byte) (id NodeID, field string) {
   142  //如果键不是节点的,则直接返回
   143  	if !bytes.HasPrefix(key, nodeDBItemPrefix) {
   144  		return NodeID{}, string(key)
   145  	}
   146  //否则拆分ID和字段
   147  	item := key[len(nodeDBItemPrefix):]
   148  	copy(id[:], item[:len(id)])
   149  	field = string(item[len(id):])
   150  
   151  	return id, field
   152  }
   153  
   154  //fetchin64检索与特定
   155  //数据库密钥。
   156  func (db *nodeDB) fetchInt64(key []byte) int64 {
   157  	blob, err := db.lvl.Get(key, nil)
   158  	if err != nil {
   159  		return 0
   160  	}
   161  	val, read := binary.Varint(blob)
   162  	if read <= 0 {
   163  		return 0
   164  	}
   165  	return val
   166  }
   167  
   168  //storeInt64将特定数据库条目作为
   169  //UNIX时间戳。
   170  func (db *nodeDB) storeInt64(key []byte, n int64) error {
   171  	blob := make([]byte, binary.MaxVarintLen64)
   172  	blob = blob[:binary.PutVarint(blob, n)]
   173  	return db.lvl.Put(key, blob, nil)
   174  }
   175  
   176  func (db *nodeDB) storeRLP(key []byte, val interface{}) error {
   177  	blob, err := rlp.EncodeToBytes(val)
   178  	if err != nil {
   179  		return err
   180  	}
   181  	return db.lvl.Put(key, blob, nil)
   182  }
   183  
   184  func (db *nodeDB) fetchRLP(key []byte, val interface{}) error {
   185  	blob, err := db.lvl.Get(key, nil)
   186  	if err != nil {
   187  		return err
   188  	}
   189  	err = rlp.DecodeBytes(blob, val)
   190  	if err != nil {
   191  		log.Warn(fmt.Sprintf("key %x (%T) %v", key, val, err))
   192  	}
   193  	return err
   194  }
   195  
   196  //节点从数据库中检索具有给定ID的节点。
   197  func (db *nodeDB) node(id NodeID) *Node {
   198  	var node Node
   199  	if err := db.fetchRLP(makeKey(id, nodeDBDiscoverRoot), &node); err != nil {
   200  		return nil
   201  	}
   202  	node.sha = crypto.Keccak256Hash(node.ID[:])
   203  	return &node
   204  }
   205  
   206  //updateNode将节点插入到对等数据库中(可能会覆盖)。
   207  func (db *nodeDB) updateNode(node *Node) error {
   208  	return db.storeRLP(makeKey(node.ID, nodeDBDiscoverRoot), node)
   209  }
   210  
   211  //删除节点删除与节点关联的所有信息/键。
   212  func (db *nodeDB) deleteNode(id NodeID) error {
   213  	deleter := db.lvl.NewIterator(util.BytesPrefix(makeKey(id, "")), nil)
   214  	for deleter.Next() {
   215  		if err := db.lvl.Delete(deleter.Key(), nil); err != nil {
   216  			return err
   217  		}
   218  	}
   219  	return nil
   220  }
   221  
   222  //EnsureExpirer是一个小助手方法,可确保数据过期
   223  //机制正在运行。如果到期goroutine已经在运行,则
   224  //方法只返回。
   225  //
   226  //目标是在网络成功后才开始数据疏散
   227  //引导自身(以防止转储可能有用的种子节点)。自从
   228  //准确跟踪第一个成功的
   229  //收敛性,在适当的时候“确保”正确的状态比较简单
   230  //条件发生(即成功结合),并丢弃进一步的事件。
   231  func (db *nodeDB) ensureExpirer() {
   232  	db.runner.Do(func() { go db.expirer() })
   233  }
   234  
   235  //Expirer应该在Go例程中启动,并负责循环广告
   236  //无穷大并从数据库中删除过时数据。
   237  func (db *nodeDB) expirer() {
   238  	tick := time.NewTicker(nodeDBCleanupCycle)
   239  	defer tick.Stop()
   240  	for {
   241  		select {
   242  		case <-tick.C:
   243  			if err := db.expireNodes(); err != nil {
   244  				log.Error(fmt.Sprintf("Failed to expire nodedb items: %v", err))
   245  			}
   246  		case <-db.quit:
   247  			return
   248  		}
   249  	}
   250  }
   251  
   252  //expirenodes迭代数据库并删除所有没有
   253  //在一段指定的时间内被看见(即收到乒乓球)。
   254  func (db *nodeDB) expireNodes() error {
   255  	threshold := time.Now().Add(-nodeDBNodeExpiration)
   256  
   257  //查找发现的早于允许的节点
   258  	it := db.lvl.NewIterator(nil, nil)
   259  	defer it.Release()
   260  
   261  	for it.Next() {
   262  //如果不是发现节点,则跳过该项
   263  		id, field := splitKey(it.Key())
   264  		if field != nodeDBDiscoverRoot {
   265  			continue
   266  		}
   267  //如果尚未过期(而不是自己),则跳过节点
   268  		if !bytes.Equal(id[:], db.self[:]) {
   269  			if seen := db.lastPong(id); seen.After(threshold) {
   270  				continue
   271  			}
   272  		}
   273  //否则删除所有相关信息
   274  		db.deleteNode(id)
   275  	}
   276  	return nil
   277  }
   278  
   279  //Lastping检索发送到远程节点的最后一个ping数据包的时间,
   280  //请求绑定。
   281  func (db *nodeDB) lastPing(id NodeID) time.Time {
   282  	return time.Unix(db.fetchInt64(makeKey(id, nodeDBDiscoverPing)), 0)
   283  }
   284  
   285  //updateLastping更新上次尝试联系远程节点时的更新。
   286  func (db *nodeDB) updateLastPing(id NodeID, instance time.Time) error {
   287  	return db.storeInt64(makeKey(id, nodeDBDiscoverPing), instance.Unix())
   288  }
   289  
   290  //lastpong从远程节点检索上次成功联系的时间。
   291  func (db *nodeDB) lastPong(id NodeID) time.Time {
   292  	return time.Unix(db.fetchInt64(makeKey(id, nodeDBDiscoverPong)), 0)
   293  }
   294  
   295  //updateLastpong更新上次成功联系远程节点的时间。
   296  func (db *nodeDB) updateLastPong(id NodeID, instance time.Time) error {
   297  	return db.storeInt64(makeKey(id, nodeDBDiscoverPong), instance.Unix())
   298  }
   299  
   300  //findfails检索自绑定以来findnode失败的次数。
   301  func (db *nodeDB) findFails(id NodeID) int {
   302  	return int(db.fetchInt64(makeKey(id, nodeDBDiscoverFindFails)))
   303  }
   304  
   305  //updatefindfails更新自绑定以来findnode失败的次数。
   306  func (db *nodeDB) updateFindFails(id NodeID, fails int) error {
   307  	return db.storeInt64(makeKey(id, nodeDBDiscoverFindFails), int64(fails))
   308  }
   309  
   310  //local endpoint返回与
   311  //给定的远程节点。
   312  func (db *nodeDB) localEndpoint(id NodeID) *rpcEndpoint {
   313  	var ep rpcEndpoint
   314  	if err := db.fetchRLP(makeKey(id, nodeDBDiscoverLocalEndpoint), &ep); err != nil {
   315  		return nil
   316  	}
   317  	return &ep
   318  }
   319  
   320  func (db *nodeDB) updateLocalEndpoint(id NodeID, ep rpcEndpoint) error {
   321  	return db.storeRLP(makeKey(id, nodeDBDiscoverLocalEndpoint), &ep)
   322  }
   323  
   324  //queryseeds检索用作潜在种子节点的随机节点
   325  //用于引导。
   326  func (db *nodeDB) querySeeds(n int, maxAge time.Duration) []*Node {
   327  	var (
   328  		now   = time.Now()
   329  		nodes = make([]*Node, 0, n)
   330  		it    = db.lvl.NewIterator(nil, nil)
   331  		id    NodeID
   332  	)
   333  	defer it.Release()
   334  
   335  seek:
   336  	for seeks := 0; len(nodes) < n && seeks < n*5; seeks++ {
   337  //寻找一个随机条目。第一个字节的增量为
   338  //每次随机数以增加可能性
   339  //攻击非常小的数据库中的所有现有节点。
   340  		ctr := id[0]
   341  		rand.Read(id[:])
   342  		id[0] = ctr + id[0]%16
   343  		it.Seek(makeKey(id, nodeDBDiscoverRoot))
   344  
   345  		n := nextNode(it)
   346  		if n == nil {
   347  			id[0] = 0
   348  continue seek //迭代器已用完
   349  		}
   350  		if n.ID == db.self {
   351  			continue seek
   352  		}
   353  		if now.Sub(db.lastPong(n.ID)) > maxAge {
   354  			continue seek
   355  		}
   356  		for i := range nodes {
   357  			if nodes[i].ID == n.ID {
   358  continue seek //复制品
   359  			}
   360  		}
   361  		nodes = append(nodes, n)
   362  	}
   363  	return nodes
   364  }
   365  
   366  func (db *nodeDB) fetchTopicRegTickets(id NodeID) (issued, used uint32) {
   367  	key := makeKey(id, nodeDBTopicRegTickets)
   368  	blob, _ := db.lvl.Get(key, nil)
   369  	if len(blob) != 8 {
   370  		return 0, 0
   371  	}
   372  	issued = binary.BigEndian.Uint32(blob[0:4])
   373  	used = binary.BigEndian.Uint32(blob[4:8])
   374  	return
   375  }
   376  
   377  func (db *nodeDB) updateTopicRegTickets(id NodeID, issued, used uint32) error {
   378  	key := makeKey(id, nodeDBTopicRegTickets)
   379  	blob := make([]byte, 8)
   380  	binary.BigEndian.PutUint32(blob[0:4], issued)
   381  	binary.BigEndian.PutUint32(blob[4:8], used)
   382  	return db.lvl.Put(key, blob, nil)
   383  }
   384  
   385  //从迭代器读取下一个节点记录,跳过其他节点记录
   386  //数据库条目。
   387  func nextNode(it iterator.Iterator) *Node {
   388  	for end := false; !end; end = !it.Next() {
   389  		id, field := splitKey(it.Key())
   390  		if field != nodeDBDiscoverRoot {
   391  			continue
   392  		}
   393  		var n Node
   394  		if err := rlp.DecodeBytes(it.Value(), &n); err != nil {
   395  			log.Warn(fmt.Sprintf("invalid node %x: %v", id, err))
   396  			continue
   397  		}
   398  		return &n
   399  	}
   400  	return nil
   401  }
   402  
   403  //关闭刷新并关闭数据库文件。
   404  func (db *nodeDB) close() {
   405  	close(db.quit)
   406  	db.lvl.Close()
   407  }
   408