我的Git存储库在根目录下有两个子目录:

/finisht
/static

当这是在SVN中时,/finisht在一个地方签出,而/static在其他地方签出了,如下所示:

svn co svn+ssh://admin@domain.example/home/admin/repos/finisht/static static

有没有办法用Git做到这一点?


当前回答

虽然我讨厌在处理git repos时使用svn:/我一直使用这个;

function git-scp() (
  URL="$1" && shift 1
  svn export ${URL/blob\/master/trunk}
)

这允许您无需修改即可从github url中复制。用法

--- /tmp » git-scp https://github.com/dgraph-io/dgraph/blob/master/contrib/config/kubernetes/helm                                                                                                                  1 ↵
A    helm
A    helm/Chart.yaml
A    helm/README.md
A    helm/values.yaml
Exported revision 6367.

--- /tmp » ls | grep helm
Permissions Size User    Date Modified    Name
drwxr-xr-x     - anthony 2020-01-07 15:53 helm/

其他回答

gitclone--filter+git稀疏签出仅下载所需文件

例如,要仅克隆子目录small/中的文件,请执行以下操作:https://github.com/cirosantilli/test-git-partial-clone-big-small

git clone --depth 1 --filter=blob:none --sparse \
  https://github.com/cirosantilli/test-git-partial-clone-big-small
cd test-git-partial-clone-big-small
git sparse-checkout set small

测试存储库包含:

包含10x 10MB文件的大/子目录一个小/子目录,包含1000个大小为1字节的文件

所有内容都是伪随机的,因此不可压缩。

36.4 Mbps互联网上的克隆时间:

满:24秒部分:“瞬时”

2021 1月在git 2.30.0上测试。可能适用于Git 2.25或2.19。

--filter选项是与远程协议的更新一起添加的,它确实防止了从服务器下载对象。

不幸的是,也需要稀疏的结账部分。您也只能下载更容易理解的某些文件:

git clone --depth 1  --filter=blob:none  --no-checkout \
  https://github.com/cirosantilli/test-git-partial-clone-big-small
cd test-git-partial-clone-big-small
git checkout master -- d1

但由于某些原因,该方法会非常缓慢地逐个下载文件,使其无法使用,除非目录中的文件非常少。

可以在以下位置看到更多的最小测试回购:https://github.com/cirosantilli/test-git-partial-clone

TODO:始终下载根目录上的文件

例如:

git clone --depth 1 --filter=blob:none --sparse \
  https://github.com/cirosantilli/test-git-partial-clone-big-small

下载文件generate.sh,并将包含根目录中的任何其他文件。子目录是小/和大/,但不包括根目录。如何防止Git下载根目录中的文件?

问:如何防止gitclone--filter=blob:none--sparse下载根目录上的文件?

分析最小存储库中的对象

clone命令仅获得:

带有主分支尖端的单个提交对象存储库的所有4个树对象:提交的顶层目录三个目录d1、d2、master

然后,git稀疏签出集命令仅从服务器获取丢失的Blob(文件):

第1天/a第1天/b

更好的是,稍后GitHub可能会开始支持:

  --filter=blob:none \
  --filter=tree:0 \

其中,来自Git2.20的--filter=tree:0将防止对所有树对象进行不必要的克隆提取,并允许将其延迟到签出。但在我2020-09-18年的测试中,失败了:

fatal: invalid filter-spec 'combine:blob:none+tree:0'

可能是因为--filter=combine:composite过滤器(在Git 2.24中添加,由多个--filter暗示)尚未实现。

我观察了哪些对象是通过以下方式获取的:

git verify-pack -v .git/objects/pack/*.pack

如上所述:如何列出数据库中的所有git对象?它并没有给我一个非常清晰的指示,说明每个对象到底是什么,但它确实说明了每个对象的类型(commit、tree、blob),因为在这个最小的repo中对象太少,所以我可以明确地推断出每个对象是什么。

git-rev-list——对象——所有这些都产生了更清晰的树/blob路径输出,但不幸的是,当我运行它时,它获取了一些对象,这使得很难确定何时获取了什么,如果有人有更好的命令,请告诉我。

TODO发现GitHub的声明是在他们开始支持它的时候发布的。https://github.blog/2020-01-17-bring-your-monorepo-down-to-size-with-sparse-checkout/2020-01-17中已经提到了过滤器blob:none。

git稀疏校验

我认为这个命令是为了管理一个设置文件,该文件显示“我只关心这些子树”,这样以后的命令只会影响这些子树。但这有点难以确定,因为当前的文档有点。。。稀疏;-)

它本身并不阻止获取Blob。

如果这种理解是正确的,那么这将是对上面描述的gitclone过滤器的一个很好的补充,因为如果您打算在部分克隆的repo中执行git操作,它将防止无意中获取更多对象。

当我尝试Git 2.25.1时:

git clone \
  --depth 1 \
  --filter=blob:none \
  --no-checkout \
  https://github.com/cirosantilli/test-git-partial-clone \
;
cd test-git-partial-clone
git sparse-checkout init

它不起作用,因为init实际上提取了所有对象。

然而,在Git 2.28中,它没有按要求获取对象。但如果我这样做:

git sparse-checkout set d1

d1不被提取和检出,即使这明确表示它应该:https://github.blog/2020-01-17-bring-your-monorepo-down-to-size-with-sparse-checkout/#sparse-签出和部分克隆带有免责声明:

请注意部分克隆功能是否会普遍可用[1]。[1] :GitHub仍在内部评估这一功能,但它在少数几个存储库上启用(包括本文中使用的示例)。随着功能的稳定和成熟,我们将随时向您更新其进展。

所以,是的,现在很难确定,部分原因是GitHub是开源的。但让我们继续关注它。

命令分解

服务器应配置有:

git config --local uploadpack.allowfilter 1
git config --local uploadpack.allowanysha1inwant 1

命令分解:

--filter=blob:无跳过所有blob,但仍获取所有树对象--filter=树:0跳过不需要的树:https://www.spinics.net/lists/git/msg342006.html--深度1已经暗示了--单个分支,另请参见:如何在Git中克隆单个分支?file://$(path)是克服git克隆协议的必要条件:如何用相对路径浅层克隆本地git存储库?--filter=combine:FILTER1+FILTER2是同时使用多个过滤器的语法,试图通过--filter由于某些原因失败:“不能组合多个过滤器规格”。这是在Git 2.24的e987df5fe62b8b29be4cdcdeb3704681ada2b29e“列表对象过滤器:实现复合过滤器”中添加的编辑:在Git 2.28上,我通过实验发现--filter=FILTER1--filter FILTER2也有同样的效果,因为截至2020-09-18,GitHub还没有实现combine:,并抱怨致命:过滤器规范'combine:blob:none+tree:0'无效。TODO在哪个版本中引入?

--filter的格式记录在man git rev列表中。

Git树上的文档:

https://github.com/git/git/blob/v2.19.0/Documentation/technical/partial-clone.txthttps://github.com/git/git/blob/v2.19.0/Documentation/rev-list-options.txt#L720https://github.com/git/git/blob/v2.19.0/t/t5616-partial-clone.sh

在本地测试

以下脚本可复制地生成https://github.com/cirosantilli/test-git-partial-clone本地存储库,执行本地克隆,并观察克隆的内容:

#!/usr/bin/env bash
set -eu

list-objects() (
  git rev-list --all --objects
  echo "master commit SHA: $(git log -1 --format="%H")"
  echo "mybranch commit SHA: $(git log -1 --format="%H")"
  git ls-tree master
  git ls-tree mybranch | grep mybranch
  git ls-tree master~ | grep root
)

# Reproducibility.
export GIT_COMMITTER_NAME='a'
export GIT_COMMITTER_EMAIL='a'
export GIT_AUTHOR_NAME='a'
export GIT_AUTHOR_EMAIL='a'
export GIT_COMMITTER_DATE='2000-01-01T00:00:00+0000'
export GIT_AUTHOR_DATE='2000-01-01T00:00:00+0000'

rm -rf server_repo local_repo
mkdir server_repo
cd server_repo

# Create repo.
git init --quiet
git config --local uploadpack.allowfilter 1
git config --local uploadpack.allowanysha1inwant 1

# First commit.
# Directories present in all branches.
mkdir d1 d2
printf 'd1/a' > ./d1/a
printf 'd1/b' > ./d1/b
printf 'd2/a' > ./d2/a
printf 'd2/b' > ./d2/b
# Present only in root.
mkdir 'root'
printf 'root' > ./root/root
git add .
git commit -m 'root' --quiet

# Second commit only on master.
git rm --quiet -r ./root
mkdir 'master'
printf 'master' > ./master/master
git add .
git commit -m 'master commit' --quiet

# Second commit only on mybranch.
git checkout -b mybranch --quiet master~
git rm --quiet -r ./root
mkdir 'mybranch'
printf 'mybranch' > ./mybranch/mybranch
git add .
git commit -m 'mybranch commit' --quiet

echo "# List and identify all objects"
list-objects
echo

# Restore master.
git checkout --quiet master
cd ..

# Clone. Don't checkout for now, only .git/ dir.
git clone --depth 1 --quiet --no-checkout --filter=blob:none "file://$(pwd)/server_repo" local_repo
cd local_repo

# List missing objects from master.
echo "# Missing objects after --no-checkout"
git rev-list --all --quiet --objects --missing=print
echo

echo "# Git checkout fails without internet"
mv ../server_repo ../server_repo.off
! git checkout master
echo

echo "# Git checkout fetches the missing directory from internet"
mv ../server_repo.off ../server_repo
git checkout master -- d1/
echo

echo "# Missing objects after checking out d1"
git rev-list --all --quiet --objects --missing=print

GitHub上游。

Git v2.19.0中的输出:

# List and identify all objects
c6fcdfaf2b1462f809aecdad83a186eeec00f9c1
fc5e97944480982cfc180a6d6634699921ee63ec
7251a83be9a03161acde7b71a8fda9be19f47128
62d67bce3c672fe2b9065f372726a11e57bade7e
b64bf435a3e54c5208a1b70b7bcb0fc627463a75 d1
308150e8fddde043f3dbbb8573abb6af1df96e63 d1/a
f70a17f51b7b30fec48a32e4f19ac15e261fd1a4 d1/b
84de03c312dc741d0f2a66df7b2f168d823e122a d2
0975df9b39e23c15f63db194df7f45c76528bccb d2/a
41484c13520fcbb6e7243a26fdb1fc9405c08520 d2/b
7d5230379e4652f1b1da7ed1e78e0b8253e03ba3 master
8b25206ff90e9432f6f1a8600f87a7bd695a24af master/master
ef29f15c9a7c5417944cc09711b6a9ee51b01d89
19f7a4ca4a038aff89d803f017f76d2b66063043 mybranch
1b671b190e293aa091239b8b5e8c149411d00523 mybranch/mybranch
c3760bb1a0ece87cdbaf9a563c77a45e30a4e30e
a0234da53ec608b54813b4271fbf00ba5318b99f root
93ca1422a8da0a9effc465eccbcb17e23015542d root/root
master commit SHA: fc5e97944480982cfc180a6d6634699921ee63ec
mybranch commit SHA: fc5e97944480982cfc180a6d6634699921ee63ec
040000 tree b64bf435a3e54c5208a1b70b7bcb0fc627463a75    d1
040000 tree 84de03c312dc741d0f2a66df7b2f168d823e122a    d2
040000 tree 7d5230379e4652f1b1da7ed1e78e0b8253e03ba3    master
040000 tree 19f7a4ca4a038aff89d803f017f76d2b66063043    mybranch
040000 tree a0234da53ec608b54813b4271fbf00ba5318b99f    root

# Missing objects after --no-checkout
?f70a17f51b7b30fec48a32e4f19ac15e261fd1a4
?8b25206ff90e9432f6f1a8600f87a7bd695a24af
?41484c13520fcbb6e7243a26fdb1fc9405c08520
?0975df9b39e23c15f63db194df7f45c76528bccb
?308150e8fddde043f3dbbb8573abb6af1df96e63

# Git checkout fails without internet
fatal: '/home/ciro/bak/git/test-git-web-interface/other-test-repos/partial-clone.tmp/server_repo' does not appear to be a git repository
fatal: Could not read from remote repository.

Please make sure you have the correct access rights
and the repository exists.

# Git checkout fetches the missing directory from internet
remote: Enumerating objects: 1, done.
remote: Counting objects: 100% (1/1), done.
remote: Total 1 (delta 0), reused 0 (delta 0)
Receiving objects: 100% (1/1), 45 bytes | 45.00 KiB/s, done.
remote: Enumerating objects: 1, done.
remote: Counting objects: 100% (1/1), done.
remote: Total 1 (delta 0), reused 0 (delta 0)
Receiving objects: 100% (1/1), 45 bytes | 45.00 KiB/s, done.

# Missing objects after checking out d1
?8b25206ff90e9432f6f1a8600f87a7bd695a24af
?41484c13520fcbb6e7243a26fdb1fc9405c08520
?0975df9b39e23c15f63db194df7f45c76528bccb

结论:d1/以外的所有斑点均缺失。例如,0975df9b39e23c15f63db194df7f45c76528bccb,即d2/b,在签出d1/a后不存在。

注意,root/root和mybranch/mybranch也丢失了,但是--depth 1从丢失的文件列表中隐藏了它们。如果删除--depth 1,则它们将显示在丢失文件列表中。

我有一个梦想

这个功能可能会彻底改变Git。

想象一下,将企业的所有代码库放在一个单回购中,而没有像回购这样丑陋的第三方工具。

想象一下,在没有任何难看的第三方扩展的情况下,直接在回购中存储巨大的区块。

想象一下,如果GitHub允许每个文件/目录的元数据(如星星和权限),那么您可以将所有个人资料存储在一个存储库中。

想象一下,如果子模块被完全像常规目录一样对待:只需请求一个树SHA,类似DNS的机制就可以解决您的请求,首先查看您的本地~/.git,然后再查看更近的服务器(您企业的镜像/缓存),最后在GitHub上结束。

我有一个梦想。

上面有很多好的想法和脚本。我情不自禁地将它们组合成一个bash脚本,并提供帮助和错误检查:

#!/bin/bash

function help {
  printf "$1
Clones a specific directory from the master branch of a git repository.

Syntax:
  $(basename $0) [--delrepo] repoUrl sourceDirectory [targetDirectory]

If targetDirectory is not specified it will be set to sourceDirectory.
Downloads a sourceDirectory from a Git repository into targetdirectory.
If targetDirectory is not specified, a directory named after `basename sourceDirectory`
will be created under the current directory.

If --delrepo is specified then the .git subdirectory in the clone will be removed after cloning.


Example 1:
Clone the tree/master/django/conf/app_template directory from the master branch of
git@github.com:django/django.git into ./app_template:

\$ $(basename $0) git@github.com:django/django.git django/conf/app_template

\$ ls app_template/django/conf/app_template/
__init__.py-tpl  admin.py-tpl  apps.py-tpl  migrations  models.py-tpl  tests.py-tpl  views.py-tpl


Example 2:
Clone the django/conf/app_template directory from the master branch of
https://github.com/django/django/tree/master/django/conf/app_template into ~/test:

\$ $(basename $0) git@github.com:django/django.git django/conf/app_template ~/test

\$ ls test/django/conf/app_template/
__init__.py-tpl  admin.py-tpl  apps.py-tpl  migrations  models.py-tpl  tests.py-tpl  views.py-tpl

"
  exit 1
}

if [ -z "$1" ]; then help "Error: repoUrl was not specified.\n"; fi
if [ -z "$2" ]; then help "Error: sourceDirectory was not specified."; fi

if [ "$1" == --delrepo ]; then
  DEL_REPO=true
  shift
fi

REPO_URL="$1"
SOURCE_DIRECTORY="$2"
if [ "$3" ]; then
  TARGET_DIRECTORY="$3"
else
  TARGET_DIRECTORY="$(basename $2)"
fi

echo "Cloning into $TARGET_DIRECTORY"
mkdir -p "$TARGET_DIRECTORY"
cd "$TARGET_DIRECTORY"
git init
git remote add origin -f "$REPO_URL"
git config core.sparseCheckout true

echo "$SOURCE_DIRECTORY" > .git/info/sparse-checkout
git pull --depth=1 origin master

if [ "$DEL_REPO" ]; then rm -rf .git; fi

您正在尝试做的是所谓的稀疏签出,这一功能是在Git1.7.0(2012年2月)中添加的。执行稀疏克隆的步骤如下:

mkdir <repo>
cd <repo>
git init
git remote add -f origin <url>

这将使用远程设备创建一个空的存储库,并获取所有对象,但不会检出它们。然后执行以下操作:

git config core.sparseCheckout true

现在,您需要定义要实际检出的文件/文件夹。这是通过在.git/info/spease checkout中列出它们来完成的,例如:

echo "some/dir/" >> .git/info/sparse-checkout
echo "another/sub/tree" >> .git/info/sparse-checkout

最后但同样重要的是,使用远程状态更新空回购:

git pull origin master

现在,文件系统上的一些/dir和另一个/sub/tree的文件将被“检出”(这些路径仍然存在),而没有其他路径。

您可能想看一下扩展教程,可能应该阅读有关稀疏签出和读取树的官方文档。

作为一项功能:

function git_sparse_clone() (
  rurl="$1" localdir="$2" && shift 2

  mkdir -p "$localdir"
  cd "$localdir"

  git init
  git remote add -f origin "$rurl"

  git config core.sparseCheckout true

  # Loops over remaining args
  for i; do
    echo "$i" >> .git/info/sparse-checkout
  done

  git pull origin master
)

用法:

git_sparse_clone "http://github.com/tj/n" "./local/location" "/bin"

请注意,这仍然会从服务器下载整个存储库–只有签出的大小减小了。目前,仅克隆一个目录是不可能的。但如果您不需要存储库的历史记录,至少可以通过创建浅层克隆来节省带宽。有关如何结合浅层克隆和稀疏检出的信息,请参阅下面的udondan答案。


截至Git 2.25.0(2020年1月),Git中添加了一个实验性稀疏校验命令:

git sparse-checkout init
# same as:
# git config core.sparseCheckout true

git sparse-checkout set "A/B"
# same as:
# echo "A/B" >> .git/info/sparse-checkout

git sparse-checkout list
# same as:
# cat .git/info/sparse-checkout

Git1.7.0有“稀疏签出”。看见git-config手册页中的“core.sparceCheckout”,git read树手册页中的“稀疏签出”,以及git更新索引手册页中的“跳过工作树位”。

界面不如SVN方便(例如,在初始克隆时无法进行稀疏签出),但可以构建更简单界面的基本功能现在可用。

您仍然可以使用svn:

svn export https://admin@domain.example/home/admin/repos/finisht/static static --force

到“gitclone”子目录,然后到“gitpull”子目录。

(并非旨在提交和推送。)